Editor Top
Descripción general de Lanzarote. El centro de generación de claves genera claves criptográficas: una clave secreta (sk) para descifrar textos cifrados, una clave pública (pk) para cifrar datos y una clave de evaluación (evk) para operaciones homomórficas (por ejemplo, multiplicación o rotación de textos cifrados). pk se comparte de forma segura con los clientes y evk con el servidor. El centro de generación de claves se encarga de la generación de claves, el procesamiento sólido de reglas de agregación y el descifrado del modelo agregado. La entidad del cliente cifra sus modelos y los envía al servidor, que procesa los modelos de forma cifrada utilizando evk. Crédito: Jiang et al. (Inteligencia de las máquinas de la naturaleza, 2025).
El aprendizaje federado es una técnica de aprendizaje automático que permite a varias personas, denominadas «clientes», entrenar un modelo de forma colaborativa, sin compartir datos de entrenamiento sin procesar entre sí. Este enfoque de «capacitación compartida» podría ser particularmente ventajoso para entrenar modelos de aprendizaje automático diseñados para completar tareas en entornos financieros y de atención médica, sin acceder a los datos personales de las personas.
A pesar de su potencial, estudios anteriores destacaron la vulnerabilidad de las técnicas de aprendizaje federado a los llamados ataques de envenenamiento. Estos ataques consisten en el envío de datos corruptos por parte de usuarios malintencionados, lo que afecta negativamente al rendimiento de un modelo.
Un enfoque propuesto para minimizar los efectos de los datos corruptos o las actualizaciones en el rendimiento de un modelo se conoce como aprendizaje federado robusto bizantino. Este enfoque se basa en estrategias matemáticas para garantizar que se ignoren los datos no confiables, pero no previene posibles violaciones de información confidencial memorizada por redes neuronales que los atacantes pueden reconstruir.
Investigadores de la Universidad China de Hong Kong, la Universidad de la Ciudad de Hong Kong y otros institutos desarrollaron recientemente un sistema de aprendizaje federado bizantino y robusto que también incorpora técnicas criptográficas avanzadas, minimizando así el riesgo de ataques de envenenamiento y violaciones de datos personales. Este nuevo sistema, llamado Lancelot, fue introducido en un papel publicado en Inteligencia de la máquina de la naturaleza.
«Nos propusimos solucionar un problema que seguíamos viendo en campos regulados: el aprendizaje federado puede resistir participantes maliciosos a través de una agregación robusta, y el cifrado totalmente homomórfico puede mantener las actualizaciones en secreto, pero hacer ambas cosas a la vez ha sido demasiado lento de usar», dijo Siyang Jiang, primer autor del artículo, a Tech Xplore. «Nuestro objetivo era construir un sistema que siga siendo confiable incluso cuando algunos clientes intenten envenenar el modelo, mantenga cada actualización cifrada de principio a fin y sea lo suficientemente rápido para el trabajo diario».
Lancelot, el sistema desarrollado por Jiang y sus colegas, mantiene cifradas las actualizaciones locales realizadas en un modelo y, al mismo tiempo, selecciona actualizaciones de clientes confiables sin revelar su selección a otros. Además, el sistema requiere menos cálculos, completa solo dos pasos criptográficos más inteligentes y garantiza que las unidades de procesamiento de gráficos realicen operaciones matemáticas más pesadas.
«En resumen, Lancelot cierra la brecha de privacidad y seguridad en el aprendizaje federado y al mismo tiempo reduce significativamente el tiempo de formación», explicó Jiang. «Lancelot tiene tres roles que trabajan juntos. Los clientes entrenan con sus propios datos y envían sólo actualizaciones de modelos cifradas. El servidor central, que sigue las reglas (honesto) pero puede ser curioso, trabaja directamente con los datos cifrados para medir qué tan similares son las actualizaciones y combinarlas».
En el sistema del equipo, la clave secreta utilizada para cifrar y descifrar datos se almacena en un centro de generación de claves independiente y confiable. Este centro descifra sólo la información necesaria para clasificar a los clientes según su confiabilidad y luego devuelve una ‘máscara’ cifrada (es decir, una lista oculta de los clientes que deben incluirse en la capacitación del modelo). En última instancia, esto permite que el servidor agregue datos confiables para el entrenamiento del modelo sin saber qué clientes fueron elegidos.
«La idea central es esta clasificación cifrada basada en máscaras: en lugar de hacer comparaciones lentas de datos cifrados, el centro de confianza realiza la clasificación y devuelve sólo la selección oculta», dijo Jiang.
Para acelerar el sistema, utilizamos dos técnicas criptográficas simples pero poderosas. Primero, adoptamos la relinealización diferida para reducir la cantidad de relinealizaciones y así disminuir la sobrecarga computacional. En segundo lugar, grupos de elevación dinámicos y operaciones repetidas en paralelo para que funcionen de manera más eficiente. También descargamos operaciones cifradas pesadas, como multiplicaciones de polinomios, a unidades de procesamiento de gráficos para lograr un paralelismo a gran escala».
El diseño único propuesto por estos investigadores garantiza en última instancia que cada actualización enviada por los clientes permanezca confidencial durante todo el proceso de aprendizaje federado. Se descubrió que esto protege su sistema de clientes maliciosos o equivocados, al tiempo que reduce significativamente el tiempo necesario para entrenar modelos.
«Nuestro trabajo ofrece el primer sistema práctico que realmente combina el aprendizaje federado robusto y bizantino (BRFL) con un cifrado totalmente homomórfico», afirmó Jiang. «En lugar de hacer muchas comparaciones lentas en datos cifrados, utilizamos clasificación cifrada basada en máscaras: una parte confiable clasifica las actualizaciones del cliente y devuelve solo una lista de selección cifrada, de modo que el servidor puede combinar las actualizaciones correctas sin siquiera ver quién fue elegido. Dos ideas simples hacen que esto sea eficiente en la práctica: la relinealización diferida pospone un paso criptográfico costoso hasta el final, y la elevación dinámica agrupa y paraleliza operaciones repetidas; junto con la ejecución Debido a las pesadas matemáticas cifradas en las unidades de procesamiento de gráficos, estos cambios reducen el tiempo de procesamiento y mueven los datos a través de la memoria mucho más rápidamente».
En el futuro, el robusto sistema de aprendizaje federado bizantino desarrollado por este equipo de investigación podría utilizarse para entrenar modelos para diversas aplicaciones. En particular, podría ayudar al desarrollo de herramientas de inteligencia artificial que podrían aumentar la eficiencia de las operaciones en hospitales, bancos y otras organizaciones que almacenan información confidencial. Jiang y sus colegas ahora están trabajando para mejorar aún más Lancelot, que aún se encuentra en su versión piloto, para que pueda ampliarse e implementarse en entornos del mundo real.
«En paralelo, estamos explorando CKKS de umbral y de múltiples claves para fortalecer el modelo de confianza sin aumentar el ancho de banda o la latencia, manteniendo práctico el aprendizaje federado bizantino y robusto a escala», añadió Jiang. «También estamos profundizando la combinación con privacidad diferencial y agregando agregación asincrónica y agrupada, de modo que el sistema maneje con gracia clientes altamente heterogéneos y redes inestables».
Escrito para ti por nuestro autor Ingrid Fadellieditado por Gaby Clarky verificados y revisados por Robert Egan—Este artículo es el resultado de un cuidadoso trabajo humano. Dependemos de lectores como usted para mantener vivo el periodismo científico independiente. Si este informe es importante para usted, considere una donación (especialmente mensual). Obtendrás un sin publicidad cuenta como agradecimiento.
Más información:
Siyang Jiang et al, Hacia un aprendizaje federado robusto y bizantino con eficiencia informática y cifrado totalmente homomórfico, Inteligencia de la máquina de la naturaleza (2025). DOI: 10.1038/s42256-025-01107-6.
© 2025 Red Ciencia X
Citación: El sistema de aprendizaje federado Lancelot combina cifrado y agregación robusta para resistir ataques de envenenamiento (2025, 14 de octubre) recuperado el 14 de octubre de 2025 de https://techxplore.com/news/2025-10-lancelot-federated-combines-encryption-robust.html
Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.
