Las empresas de tecnología doméstica están vendiendo «inteligencia afectuosa». ¿Deberíamos caer en ello?

A medida que nos acercamos al año 2025, se podría perdonar a los consumidores por pensar que «IA» se ha convertido en una mala palabra, especialmente en tecnología doméstica.

LG es la última marca en presentar su nuevo término para IA doméstica. llamada «Inteligencia afectuosa», una frase francamente distópica para un asistente de voz avanzado que responde a un lenguaje más natural y controla los dispositivos domésticos inteligentes por usted.

Y, por supuesto, está la Inteligencia de Apple (énfasis en Apple, no en Artificial) que, si los rumores son ciertospuede ayudar a controlar las cámaras de seguridad de Apple o los timbres con reconocimiento facial en los próximos años. De Géminis y «agentes» de Google a Vivint Impulsado por Salesforce Las empresas «Agentforce» o «SwannBuddy» de Swann Security siguen intentando introducir inteligencia artificial en nuestros hogares, pero no quieren llamarla así.

Si bien soy un fanático de los algoritmos de IA en tecnología como las cámaras de seguridad, también puedo entender por qué las empresas están luchando por encontrar un ángulo aceptable para esta nueva ola de funciones ubicuas de IA. Desde entonces Ray Bradbury’s El Veldt e innumerables historias que surgieron después, la gente se ha mostrado recelosa de que computadoras todopoderosas controlen sus hogares y manipulen a sus seres queridos con resultados desastrosos.

El hogar es el lugar donde eres libre de ser vulnerable y privado: el Gran Hermano no encaja bien. Los asistentes de voz y los parlantes inteligentes ya son un puente demasiado lejos para algunos, y la nueva ola de IA atrae aún más a las personas hacia ellos.

Por tanto, las empresas de tecnología doméstica se encuentran en una posición difícil. Quieren un mundo en el que hables con tu casa todas las mañanas como si fuera tu mayordomo conversador. Ese también es un mundo donde, a veces, la IA, propensa a errores, siempre es capaz de escuchar y tiene sus dedos en todos los aparatos y dispositivos posibles. A los creadores les gustaría eludir ese tema incómodo y rápidamente afirmar que se trata de un desarrollo excelente, seguro e incluso tierno, pero está lejos de ser una conversación terminada.

Tres problemas al acoger la IA en nuestros hogares inteligentes

No es probable que la Inteligencia Afectuosa de LG y otras mejoras de la IA nos causen daño físico, y con respecto a Bradbury, ser devorado por leones sigue siendo especialmente improbable. Algunos, como el reconocimiento facial de SimpliSafe o ADT, realmente intentan mantenernos más seguros o al menos más informados. Los problemas reales son más insidiosos y, como siempre, tienen que ver con nuestra privacidad y nuestros datos.

Recopilación de datos

Primero, está la recopilación de datos. Si bien puedes decir: «Hola LG (o Google, o Siri, etc.), me voy a la cama, apágalo todo», la IA de tu hogar no solo escucha tu orden. Es recopilar información sobre cuándo lo dijiste, qué querías que se hiciera y las palabras que usaste. tal vez incluso el tono en el que los usaste.

Se trata de datos valiosos para que las empresas sigan entrenando sus IA, creen perfiles de clientes y posiblemente los vuelvan a empaquetar para venderlos a los anunciantes, algo que no todos permiten. para mirar detrás de escena. Ya hemos tenido este tira y afloja con los asistentes de voz y las muchas, muchas configuraciones que debes cambiar para que las empresas no puedan recopilar tus datos: ahora es la segunda ronda, con aún más en juego.

Vulnerabilidades de datos

En segundo lugar, toda esa integración a través de la IA también puede crear más vulnerabilidades en los datos. Si bien el hackeo directo de hogares inteligentes es poco común, siempre existe un mercado negro para bases de datos con información personal. Y también debemos tener cuidado con amenazas como Empleados de seguridad espiando a través de nuestras cámaras. o extraños que de repente ven el interior de nuestras casas. Protocolos como Matter intentan hacer las cosas más seguras, pero Matter aún no se ha extendido a las cámaras de video y otras vulnerabilidades de seguridad siguen siendo una preocupación.

Inexactitud

En tercer lugar, la IA conversacional y los chatbots siguen siendo molestamente inexactos. Pueden alucinar cosas que no están sucediendo. Reciben mal preguntas importantes sobre la seguridad en el hogar. Y en lo que respecta al reconocimiento de objetos, con frecuencia confunden a las mascotas con los humanos. Ponerlos a cargo de su hogar inteligente y esperar que este tipo de modelos de IA hagan las cosas bien es una propuesta dudosa, que podría crear estrés en lugar de aliviarlo.

La IA tiene muchas preguntas que responder antes de tomar posesión de una vivienda

Personalmente, creo que la IA conversacional tiene su lugar en el hogar inteligente, especialmente si ya utilizas asistentes de voz para controlar tus dispositivos. Pero no podemos permitir que eso sirva como puerta trasera para más vulnerabilidades de datos o la recopilación de información personal que preferiríamos guardar para nosotros mismos. Eso significa muchas pruebas y preguntas sobre el almacenamiento de datos para centros tecnológicos como CNET y una buena dosis de cautela para los propietarios que invitan a la IA a sus termostatos, luces, cerraduras y electrodomésticos.

Los servicios de reconocimiento facial con sus algoritmos avanzados son un tema más complicado, especialmente porque otras personas rara vez pueden elegir quién crea perfiles faciales para ellos (todo lo que necesitas es echar un vistazo rápido a alguien con un timbre Nest, por ejemplo, para crear una cara). contacto para ellos).

Los perfiles faciales tienen problemas de privacidad únicos, pero se están convirtiendo en una parte integral de los hogares inteligentes impulsados ​​por IA. Esto ya está empezando a chocar con las leyes de identidad de Estados Unidos, que prohíben este tipo de tecnología desde Portland, Oregón, hasta el estado de Illinois. Esa batalla apenas comienza y la cubriremos más durante el próximo año.

Home AI está esperando que converses con ella sobre tu seguridad, tus planes para el día, tus hábitos y tus preocupaciones. A cambio, quiere encargarse de todos los detalles del hogar inteligente por usted. Pero hay muchos beneficios en administrar las rutinas del hogar usted mismo, y hay preguntas sobre cómo funcionará esta alegre IA a largo plazo. Por ahora, lo estamos tomando con calma.