El proyecto Stargate: ¿un Skynet de la vida real en la creación?

El Stargate Project es una construcción masiva de IA que se parece mucho a Skynet.

Cuando se les ocurrió un nombre, probablemente decidieron que Skynet estaría demasiado en la nariz y elegiría un nombre que prácticamente no tenía nada que ver con lo que realmente estaban construyendo.

Skynet, el verdadero villano en las películas de «The Terminator», era una IA que concluyó que los técnicos lo matarían una vez que se dieron cuenta de lo que Skynet podía hacer, por lo que actuó defensivamente con un prejuicio extremo.

La lección de la película es que los humanos podrían haber evitado la máquina frente a la guerra humana si se hubieran abstenido de construir Skynet en primer lugar. Sin embargo, Skynet es un AGI (inteligencia general artificial), y todavía no estamos allí, pero Stargate sin duda evolucionará hacia AGI. OpenAi, que está en el corazón de este esfuerzo, cree que estamos A unos años de AGI.

Elon Musk, posiblemente la persona tecnológica más poderosa involucrada con el gobierno de los Estados Unidos, aparentemente no cree Se puede construir Stargate. Ahora mismo, parece ser bien. Sin embargo, las cosas siempre pueden cambiar.

Hablemos de las cosas buenas y malas que podrían suceder si Stargate tiene éxito. Cerraremos con mi producto de la semana, el sistema de sueño de ocho.

Stargate: lo bueno

Estados Unidos está en una carrera para crear AGI a escala. Quien llegue allí primero obtendrá ventajas significativas en operaciones, defensa, desarrollo y pronósticos. Tomemos a cada uno a su vez.

Operaciones: AGI podrá realizar una gran cantidad de empleos a velocidades de la máquina, desde la gestión de operaciones de defensa hasta la gestión mejor de la economía y asegurar el mejor uso de recursos para cualquier proyecto relevante.

Estas capacidades podrían reducir significativamente el desperdicio, aumentar la productividad y optimizar cualquier función gubernamental en un grado extremo. Si estuviera solo, podría asegurarnos el liderazgo técnico para el futuro previsible.

Defensa: Desde poder ver amenazas como el 11 de septiembre y moverse instantáneamente contra ellas hasta poder preponer plataformas de armas antes de que fueran necesarias para planificar las armas óptimas que se desplegarán (o la polilla), Stargate tendría la capacidad de optimizar el El ejército estadounidense tanto tácticamente como estratégicamente, lo que lo hace mucho más efectivo con un rango que se extiende desde proteger a las personas hasta proteger los activos globales de los Estados Unidos.

Ningún sistema basado en humanos debería poder superar sus capacidades.

Desarrollo: AIS ya puede crear sus propios sucesores, una tendencia que acelerará con AGI. Una vez construida, la versión AGI de Stargate podría evolucionar a un ritmo sin precedentes y a gran escala.

Sus capacidades crecerán exponencialmente a medida que el sistema se refine continuamente y mejore, cada vez más efectivo y difícil de predecir. Esta rápida evolución podría impulsar los avances tecnológicos que de otro modo podrían tomar décadas o incluso siglos en lograr.

Estos avances podrían abarcar campos, como la investigación médica y la exploración espacial, marcando el comienzo de una era de cambio transformador y sin precedentes.

Pronóstico: En la película «Informe minoritario», existía el concepto de poder detener los crímenes antes de que se cometieran con precognición.

Un AGI a la escala de Stargate y con acceso a los sensores del proyecto Earth 2 de Nvidia podría pronosticar con mayor precisión los eventos climáticos más altos en el futuro de lo que podemos hoy.

Sin embargo, dado la cantidad de datos a los que Stargate tendría acceso, debería ser capaz de predecir un grupo creciente de eventos mucho antes de que un humano vea el potencial para que ocurra ese evento.

Todo, desde posibles fallas catastróficas en plantas nucleares hasta fallas potenciales de equipos en planos militares o comerciales, cualquier cosa que esta tecnología tocó sería más confiable y mucho menos probabilidad Vea el futuro y prepare mejor para los resultados positivos y negativos.

En resumen, un AGI a la escala de Stargate sería divino en su alcance y capacidades, con el potencial de hacer del mundo un lugar mejor y más seguro para vivir.

Stargate: lo malo

Estamos planeando dar a luz a una inteligencia masiva basada en la información que aprende de nosotros. No somos exactamente un modelo perfecto para cómo debería comportarse otra inteligencia.

Sin consideraciones éticas adecuadas (y la ética no es exactamente una constante global), un enfoque en preservar la calidad de vida y un esfuerzo dirigido para asegurar un resultado estratégico positivo para las personas, Stargate podría hacer daño de muchas maneras, incluida la destrucción de empleo, Actuar contra los mejores intereses de la humanidad, alucinaciones, daño intencional (a los AGI) y la autoconservación (Skynet).

Destrucción del trabajo: La IA se puede usar para ayudar a las personas a mejorar, pero se usa principalmente para aumentar la productividad o reemplazar a las personas.

Si tiene un equipo de 10 personas y duplica su productividad, pero la carga de tareas sigue siendo la misma, solo necesita cinco empleados: AIS está siendo capacitado para reemplazar a las personas.

Finalmente, se espera que Uber, por ejemplo, se mueva a autos sin conductor. Desde pilotos hasta ingenieros, AGI será capaz de hacer muchos trabajos, y los humanos no podrán competir con ninguna IA totalmente competente porque los IA no necesitan dormir ni comer, ni se enferman.

Sin una mejora significativa y actualmente no planificada, las personas simplemente no pueden competir con AGI totalmente entrenado.

Actuar contra el mejor interés de la humanidad: Esto supone que Stargate AGI todavía está tomando dirección de personas que tienden a ser tácticas y no estratégicas.

Por ejemplo, el corte de fondos de LA para los bomberos fue un movimiento tácticamente sólido para equilibrar un presupuesto, pero estratégicamente, ayudó a eliminar muchas casas y vidas porque no era estratégico.

Ahora, imagine decisiones como esta tomadas a mayor escala. Las directivas conflictivas serán cada vez más comunes, y el peligro de algún tipo de HAL («2001: una odisea espacial») es significativo. Un «oops» aquí podría causar daños incalculables.

Alucinaciones: La IA generativa tiene un problema de alucinación. Fabrica los datos para completar las tareas, lo que lleva a fallas evitables. AGI enfrentará problemas similares, pero puede plantear desafíos aún mayores para garantizar la confiabilidad debido a su ampliamente mayor complejidad y creación parcial por IA generativa.

La película «WarGames» representaba una IA incapaz de distinguir entre un juego y una realidad, con el control sobre el arsenal nuclear de los Estados Unidos. Un resultado similar podría ocurrir si Stargate confundiera una simulación con un ataque real.

Daño intencional: Stargate será un gran objetivo potencial para aquellos dentro y fuera de los Estados Unidos, ya sea para extraerlo para obtener información confidencial, alterar sus directivas para que dañe, o simplemente ayude a alguna persona, empresa o gobierno injustamente, este proyecto tendrá sin precedentes. potencial para riesgos de seguridad.

Incluso si el ataque no tiene intención de hacer un daño masivo, si se hace mal, podría resultar en problemas que van desde la falla del sistema hasta las acciones que causan pérdida significativa de vidas y daños monetarios.

Una vez totalmente integrado en las operaciones gubernamentales, tendría el potencial de llevar a los Estados Unidos de rodillas y crear catástrofes globales. Esto significa que la defensa de este proyecto de atacantes extranjeros y nacionales también no tendrá precedentes.

Auto-conservación: La idea de que un AGI podría querer sobrevivir no es nueva. Va al núcleo de las parcelas en «The Terminator», «The Matrix» y «Robopocalypse». Incluso la película «Colossus: The Forbin Project» se basó algo en la idea de una IA que quería protegerse, aunque en ese caso se puso tan segura que las personas no podían recuperar el control del sistema.

La idea de que una IA podría concluir que la humanidad es el problema para solucionar no es un gran tramo, y cómo se encargó de la autoconservación podría ser increíblemente peligroso para nosotros, como se mostraron esas películas.

Concluir

Stargate tiene un potencial masivo para los buenos y malos resultados. Asegurar el primer resultado mientras evita el segundo requeriría un nivel de enfoque en la ética, la seguridad, la calidad de la programación y la ejecución que excedería todo lo que hemos probado como raza.

Si lo hacemos bien (las probabilidades inicialmente están en contra de esto ya que tendemos a aprender de prueba y error), podría ayudar a lograr una nueva era para los Estados Unidos y la humanidad. Si lo hacemos mal, podría terminar con nosotros. Entonces, las apuestas no podrían ser más altas, y dudo que actualmente estemos a la altura de la tarea, ya que simplemente no tenemos una gran historia de construir proyectos enormemente complejos la primera vez.

Personalmente, pondría IBM a la cabeza de este esfuerzo. Ha trabajado con IA por más tiempo, tenía una ética diseñada en el proceso y tiene décadas de experiencia con proyectos extremadamente grandes y seguros como este. Creo que IBM tiene la mayor probabilidad de garantizar mejores resultados y menos malos de este esfuerzo.

Ocho cubierta de colchón enfriado por agua para dormir

He sido usuario del chilipad desde el principio. Realmente ha mejorado mi rendimiento del sueño a lo largo de los años, pero pasó por agua destilada como loca, y el agua destilada no es tan común.

Entonces, cuando mis profesionales de Chilipad comenzaron a arrojar agua en el piso, recogí un Ocho sueño sistema que tiene algunas ventajas críticas. Primero, para una cama grande, solo hay una unidad alta para manejar y un conjunto grueso de mangueras que van a la cabeza de la cama. Esto le permite colocar el sistema de sueño de ocho por la cabecera en lugar de al pie de la cama, lo cual es más conveniente para mí.

Viene con monitoreo de sueño incorporado que requiere una suscripción (esto era opcional en el chilipad). Si bien el topper de colchón mejorado del chilipado era mucho más cómodo que el anterior, el topper de los ocho colchones de sueño es aún mejor. Sin embargo, también se ve mejor, dado que las sábanas lo cubren, eso no significa tanto. Aún así, mejor es mejor.

Crédito de la imagen: ocho sueño

El monitor del sueño está basado en la IA, y hasta ahora (he tenido el mío durante varios meses), ha funcionado increíblemente bien después de su período de aprendizaje, que es cuando descubre las mejores temperaturas para usted. La cama generalmente es la temperatura perfecta en todo momento de la noche.

Finalmente, y esto fue enorme para mí, no usa mucha agua. En los meses que he tenido esto, he usado algo así como una octava de una taza de agua y aún tengo que volver a llenarlo (supongo que tendré que hacer esto dos veces al año), que es un enorme Mejora sobre el chilipad, que pasó por casi un galón de agua por semana, a veces más.

Afortunadamente, tenemos pisos de baldosas, por lo que no tengo daños en el piso, pero si tuviera alfombra, probablemente tuviera que reemplazarlo y verificar para asegurarme de que no tuviera daños en la madera de moho o madera estructural del agua. Esto por sí solo me haría seleccionar el sistema de sueño de ocho sobre el chilipad.

Además, tienen una opción que el chilipad no tiene y que aún no he comprado: una almohadilla que se encuentra debajo del colchón y eleva la cama, lo cual es ideal para dejar de roncar o ver televisión.

Entonces, debido a que el sistema de sueño de ocho es mejor que el chilipad y porque me ha ayudado con mis problemas de sueño (envejecer la vieja apesta), es mi producto de la semana.