Proyectos de investigación competitivos financiados por entidades externas
Computación ética por diseño mediante descentralización y coutilidad
Acrónimo
CURLING
Título proyecto
Computación ética por diseño mediante descentralización y coutilidad
Referencia externa
PID2021-123637NB-I00
Descripción/abstract
La computación descentralizada, entendida en sentido amplio como cualquier paradigma informático que no esté totalmente controlado por una sola entidad, es una poderosa tendencia hoy en día. Esto es así no sólo por razones de escalabilidad y tolerancia a fallos, sino porque la descentralización se adapta mejor a la ética por diseño que la centralización (en la cual una sola entidad goza de poder dictatorial). Sin embargo, un obstáculo importante para que la computación descentralizada se generalice es cómo garantizar que todos los agentes implicados actúen como se espera de ellos. Mientras que el riesgo de desviación accidental puede controlarse aumentando la calidad y la redundancia de los equipos informáticos y de comunicación, el riesgo más grave es la desviación intencionada con fines maliciosos o egoístas. El objetivo general de CURLING es impulsar la ética por diseño en la computación descentralizada de manera que el comportamiento honrado de los agentes y, por ende, la exactitud y la precisión de los cálculos sean autoimpuestos (self-enforcing). En lugar de considerar una mayoría de agentes honrados pero curiosos (lo que podría ser demasiado optimista) o una mayoría de agentes puramente maliciosos (lo que podría ser muy pesimista y poco realista), consideramos que la mayoría de los agentes son racionales. Nuestro enfoque se basa en la propiedad de coutilidad, que caracteriza una situación en la que cooperar honradamente es la mejor opción racional incluso para los agentes puramente egoístas. Los cuatro objetivos principales de CURLING son: i) desarrollar los fundamentos de la ética por diseño en computación descentralizada en el modelo racional a través de la coutilidad, desde la detección de sinergías y conflictos entre valores éticos hasta los incentivos artificiales basados en la reputación para el comportamiento ético cuando dicho comportamiento no sea naturalmente coútil; ii) desarrollar primitivas para la computación descentralizada coútil en el modelo racional, específicamente para la externalización de la computación y para comunicación anónima; iii) alcanzar la seguridad y la privacidad en el aprendizaje federado a través de la coutilidad; iv) desarrollar protocolos con ética por diseño a través de la coutilidad para sistemas de aprendizaje completamente descentralizados.
Entidad financiadora
MINISTERIO DE CIENCIA E INNOVACIÓN
Entidad financiadora
145.442,00 €
Logos
Convocatoria
Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023. Programa Estatal para Impulsar la Investigación Científico-Técnica y su Transferencia.Subprograma Estatal de Generación de Conocimiento. Proyectos de Generación de Conocimiento 2021
Fecha inicio
01-09-2022
Fecha fin
31-08-2025
Departamento/IP
Enginyeria Informàtica i Matemàtiques/DOMINGO FERRER, JOSEP; SÁNCHEZ RUENES, DAVID
