La adopción de IA generativa en la tecnología es potencialmente más importante que cuando se introdujo Internet. Está interrumpiendo la mayoría de los esfuerzos creativos y no es tan capaz como lo será a finales de la década.
Gen AI nos obligará a repensar cómo nos comunicamos, cómo colaboramos, cómo creamos, cómo resolvemos problemas, cómo gobernamos e incluso cómo y si viajamos, y eso está lejos de ser una lista exhaustiva. Espero que una vez que esta tecnología alcance la madurez, la lista de cosas que no han cambiado será mucho más corta que la lista de cosas que sí.
Esta semana, me gustaría centrarme en tres cosas que deberíamos comenzar a discutir y que representan algunos de los mayores riesgos de la IA generativa. No estoy en contra de la tecnología, ni soy lo suficientemente tonto como para sugerir que se detenga porque pausarla ahora sería imposible.
Lo que sugiero es que comencemos a considerar mitigar estos problemas antes de que causen un daño sustancial. Los tres problemas son la carga del centro de datos, la seguridad y el daño a las relaciones.
Cerraremos con mi Producto de la semana, que puede ser el mejor SUV eléctrico que llegue al mercado. De repente estoy en el mercado de un nuevo coche eléctrico, pero hablaremos de eso más adelante.
Carga del centro de datos
Independientemente de todo el bombo publicitario, pocas personas están usando la IA generativa todavía, y mucho menos usándola en todo su potencial. La tecnología requiere un uso intensivo del procesador y de los datos, mientras que está muy enfocada en lo personal, por lo que no será factible que resida solo en la nube, principalmente porque el tamaño, el costo y la latencia resultante serían insostenibles.
Al igual que hemos hecho con otras aplicaciones centradas en los datos y el rendimiento, el mejor enfoque probablemente sea un híbrido en el que la potencia de procesamiento se mantenga cerca del usuario. Aún así, los datos masivos, que necesitarán una actualización agresiva, deberán cargarse y accederse de manera más centralizada para proteger las capacidades de almacenamiento limitadas de los dispositivos, teléfonos inteligentes y PC de los clientes.
Pero, debido a que estamos hablando de un sistema cada vez más inteligente que, a veces, como cuando se usa para juegos, traducción o conversaciones, requerirá una latencia muy baja. La forma en que se divide la carga sin dañar el rendimiento probablemente determinará si una implementación en particular es exitosa.
ANUNCIO
Lograr una latencia baja no será fácil porque, si bien la tecnología inalámbrica ha mejorado, aún puede no ser confiable debido al clima, la ubicación de las torres o del usuario, las interrupciones de mantenimiento, los desastres naturales o provocados por el hombre y la cobertura global incompleta. La IA debe funcionar tanto en línea como fuera de línea mientras limita el tráfico de datos y evita interrupciones catastróficas.
Incluso si pudiéramos centralizar todo esto, el costo sería excesivo, aunque tenemos un rendimiento infrautilizado en nuestros dispositivos personales que podría mitigar gran parte de ese gasto. Qualcomm es uno de los primeras firmas en marcar esto como un problema y está poniendo mucho esfuerzo en solucionarlo. Aún así, espere que sea demasiado poco y demasiado tarde, dada la rapidez con la que avanza la IA generativa y la relativa lentitud con que se desarrolla y lleva al mercado una tecnología como esta.
Seguridad
Fui auditor interno especializado en seguridad y analista competitivo capacitado en formas legales para penetrar la seguridad. Aprendí que si alguien puede obtener suficientes datos, puede estimar con mayor precisión los datos a los que no tiene acceso.
Por ejemplo, si conoce la cantidad promedio de automóviles en el estacionamiento de una empresa, puede, con una precisión razonable, estimar la cantidad de empleados que tiene una empresa. Por lo general, puede escanear las redes sociales y descubrir los intereses de los principales empleados de la empresa, y puede ver las ofertas de trabajo para determinar los tipos de productos futuros que la empresa probablemente está desarrollando.
Estos grandes modelos de lenguaje recopilan cantidades masivas de datos, y espero que muchas de las cosas que escanean estos LLM sean o deban ser confidenciales. Además, si se recopila suficiente información, las brechas resultantes de lo que no se escanea serán cada vez más derivables.
ANUNCIO
Este escenario no se aplica sólo a la información corporativa. Con el tipo de información personal que está fácilmente disponible, también podremos determinar mucho más sobre la vida privada de los usuarios.
Los empleadores podrán localizar a los denunciantes, los empleados descontentos o desleales, el mal comportamiento de los empleados y los empleados que se aprovechan de la empresa ilícitamente con mayor precisión. La protección contra una entidad hostil que obtiene información confidencial sobre usted, su empresa o incluso su gobierno se está volviendo más viable con una precisión mucho mayor de la que disfruté como auditor o analista competitivo.
Es probable que la mejor defensa cree suficiente desinformación para que las herramientas no sepan qué es real y qué no. Sin embargo, esta ruta también hará que los sistemas de IA conectados sean mucho menos confiables en general, lo que estaría bien si solo la competencia usara esos sistemas. Sin embargo, es probable que comprometa los sistemas de la empresa que quiere protección, lo que resultará en un número creciente de malas decisiones.
Relaciones interpersonales
Empresas como Mindverso con su MindOS y Suki con sus avatares que complementan a los empleados, están mostrando el futuro uso personal de la IA generativa como una herramienta que puede presentarse como si fuera usted. A medida que usemos progresivamente herramientas como esta, nuestra capacidad para determinar qué es real y qué es digital se reducirá significativamente, y nuestras opiniones sobre las personas que usan estas herramientas se reflejarán más en la herramienta que en la persona.
Imagine que su gemelo digital haga una entrevista virtual, sea el rostro de su presencia en una aplicación de citas o se haga cargo de gran parte de sus interacciones virtuales diarias. La herramienta intentará responder a la persona que interactúa con ella, nunca se cansará ni se enfadará, y estará entrenada para presentarte de la mejor manera posible. Sin embargo, a medida que avanza por este camino, se parecerá cada vez menos a lo que realmente eres, y probablemente se vuelva mucho más interesante, atractivo y más ecuánime de lo que jamás podrías ser.
ANUNCIO
Esto causará problemas porque, al igual que los actores que salen con alguien que se ha enamorado de un personaje que el actor interpretó una vez, la realidad creará rupturas posteriores y una pérdida de confianza.
La solución más fácil sería aprender a comportarse como tu avatar o usarlo para interactuar con amigos y compañeros de trabajo. Dudo que lo hagamos, pero estos son los dos enfoques más viables para mitigar este problema que se avecina.
Terminando
La IA generativa es sorprendente y mejorará significativamente el rendimiento a medida que ingrese al mercado y los usuarios alcancen una masa crítica. Sin embargo, hay problemas significativos que deberán abordarse, incluida la carga excesiva del centro de datos, que debería impulsar soluciones híbridas en el futuro, la incapacidad para evitar derivar secretos de estos enormes modelos de lenguaje y una reducción considerable en la confianza interpersonal.
Comprender estos riesgos venideros debería ayudar a evitarlos. Sin embargo, las correcciones no son excelentes, lo que sugiere que probablemente lamentaremos algunas de las consecuencias no deseadas del uso de esta tecnología.
El océano Fisker
Mi Jaguar I-Pace mordió el polvo el mes pasado debido a un accidente de remolque que dañó su batería. El resultado fue un presupuesto de $100,000 para arreglar el auto, que ahora vale cerca de $40,000. Espero que USAA, mi compañía de seguros, destruya el auto. Entonces, he estado buscando autos eléctricos de reemplazo y, en general, la disponibilidad apesta.
Es probable que compre otro Jaguar I-Pace principalmente porque no quiero volver a esperar meses o años para tener mi propio auto. Actualmente, comparto el Volve XC-60 de mi esposa y tengo muchos problemas de programación en los que ambos necesitamos el automóvil al mismo tiempo. Fui a comprar un nuevo SUV eléctrico y el mejor que encontré fue el Océano Fisker.
El Fisker Ocean totalmente eléctrico (Crédito de la imagen: Fisker)
Como con la mayoría de los eléctricos, la espera por uno nuevo es de meses, y no puedo pagar esa espera. De los autos eléctricos que están disponibles este año, el Fisker Ocean dio en el blanco. Sus características incluyen:
- Rango de 350 millas (la barra es de 300 millas)
- Tu smartphone puede ser la llave del vehículo
- Carga inversa, para que su automóvil pueda alimentar su casa durante un corte de energía
- Un impresionante tiempo de 0 a 60 de alrededor de 3,6 segundos (me gusta el rendimiento)
- Un techo de panel solar para aumentar el alcance y suministrar energía de emergencia
- Un modo similar a un convertible (que realmente abre el automóvil)
- Uno de los diseños más limpios del mercado.
El Fisker Ocean es un coche impresionante. Si pudiera esperar hasta fin de año para conseguir uno, lo pediría en un momento. Lamentablemente, ese no es el caso. Sin embargo, el Fisker Ocean sigue siendo mi Producto de la semana.
Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente los puntos de vista de ECT News Network.
