Editor Top
Varios empleados actuales y anteriores de OpenAI y Google DeepMind hoy compartió una carta abierta advirtiendo sobre los peligros de la IA avanzada y la actual falta de supervisión de las empresas que trabajan en tecnología de IA.
Los empleados sugieren que nos enfrentamos a una serie de riesgos derivados del desarrollo de la IA, incluido un mayor afianzamiento de las desigualdades existentes, la manipulación y la desinformación, y la pérdida de control de los sistemas autónomos de IA, que, según la carta, podrían conducir a la extinción humana.
Las empresas de IA tienen «fuertes incentivos financieros» para seguir adelante con el desarrollo y evitar compartir información sobre sus medidas de protección y niveles de riesgo. «No creemos que se pueda confiar en que todos lo compartirán voluntariamente», se lee en la carta, que dice que corresponde a los empleados actuales y anteriores hablar.
Mientras no exista una supervisión gubernamental efectiva de estas corporaciones, los empleados actuales y anteriores se encuentran entre las pocas personas que pueden exigirles responsabilidades ante el público. Sin embargo, los amplios acuerdos de confidencialidad nos impiden expresar nuestras preocupaciones, excepto ante las mismas empresas que tal vez no estén abordando estos temas. Las protecciones ordinarias a los denunciantes son insuficientes porque se centran en actividades ilegales, mientras que muchos de los riesgos que nos preocupan aún no están regulados.
En última instancia, los empleados están pidiendo a las empresas de IA que ofrezcan protecciones sólidas a los denunciantes que denuncien los riesgos de la IA.
- Evite crear o hacer cumplir acuerdos que impidan críticas por preocupaciones relacionadas con el riesgo.
- Ofrezca un proceso anónimo verificable para que los empleados planteen inquietudes relacionadas con riesgos a la junta directiva, los reguladores y las organizaciones independientes con experiencia relevante.
- Apoye una cultura de crítica abierta para permitir a los empleados plantear inquietudes relacionadas con riesgos sobre tecnologías al público, la junta directiva, los reguladores y más, siempre que los secretos comerciales estén protegidos.
- Evite tomar represalias contra los empleados que comparten públicamente información confidencial relacionada con riesgos después de que otros procesos hayan fallado.
Un total de 13 empleados firmaron la carta, incluidos siete ex empleados de OpenAI, cuatro empleados actuales de OpenAI, un ex empleado de Google DeepMind y un empleado actual de Google DeepMind. Abierto AI ha amenazado empleados con pérdida de capital adquirido por hablar, y les hace firmar acuerdos de confidencialidad draconianos que amordazan las críticas.
La carta llega mientras Apple se prepara para anunciar múltiples funciones impulsadas por IA para iOS 18 y otras actualizaciones de software el lunes. Apple está trabajando en su propia funcionalidad de IA que se integrará en las aplicaciones de todo el sistema operativo, además ha firmado un acuerdo con OpenAI para integrar las funciones de ChatGPT en iOS 18.
Historias populares
Algunos clientes de AT&T, T-Mobile y Verizon informan problemas con las llamadas [Update: Fixed]
Parece haber una interrupción con al menos un operador de telefonía celular de EE. UU., y los clientes no pueden realizar ni recibir llamadas. Los clientes de AT&T, T-Mobile y Verizon se han quejado del problema en las redes sociales y también hay informes de cortes en el sitio web de Down Detector. Según un comunicado de AT&T, la interrupción está afectando las llamadas entre operadores en Estados Unidos. Todo…
Gurman: No hay hardware en la WWDC, el próximo Apple TV ya no llegará pronto
Mark Gurman de Bloomberg no espera que Apple anuncie ningún hardware nuevo durante su discurso de apertura de la WWDC 2024 el 10 de junio. «No hay ningún hardware programado para ser anunciado en la WWDC, a menos que Apple haga una vista previa inesperada de un nuevo dispositivo que se lanzará más tarde (para ser claro: no esperar eso)», afirmó Gurman hoy en su boletín informativo Power On. En particular, Gurman ahora dice que un nuevo modelo de Apple TV «no es inminente», a pesar…
Auriculares Sonos Ace frente a AirPods Max
En mayo, Sonos decidió ingresar al mercado de los auriculares con el lanzamiento de los auriculares Sonos Ace. Los auriculares Sonos Ace de $449 tienen algunos elementos de diseño atractivos y características que no verás en los auriculares de Apple, por lo que pensamos en compararlos con los AirPods Max de $549 para ver cuál es, en última instancia, mejor. Suscríbase al canal de YouTube MacRumors para ver más videos. En términos de diseño, tanto el…
iOS 18: es probable que estos iPhones no admitan algunas funciones de IA
Apple está planeando una importante revisión de la IA en iOS 18, pero es poco probable que algunas funciones nuevas funcionen en iPhones más antiguos, incluso si aparecen en la lista de compatibilidad de dispositivos del nuevo sistema operativo. Se dice que la hoja de ruta inicial de IA de Apple para iOS 18 se dividirá en dos partes: funciones básicas de IA que se procesarán en el dispositivo y capacidades más avanzadas que requerirán comunicación con los servidores de Apple. …
El iPhone 16 Pro podría batir el récord de biseles más delgados en un teléfono inteligente
Los próximos modelos de iPhone 16 Pro de Apple tendrán los biseles más delgados de cualquier teléfono inteligente, superando la delgadez del borde de la pantalla incluso de sus últimos dispositivos iPhone 15 Pro. Esto es según el filtrador conocido como «Ice Universe», que ha divulgado información precisa sobre los planes de Apple en el pasado. Según múltiples fuentes, a pesar de cambios mínimos de diseño, ambos modelos de iPhone 16 Pro aumentarán…
GIPHY App Key not set. Please check settings