Jolla presenta hardware de inteligencia artificial centrado en la privacidad

Jolla ha dado a conocer oficialmente la primera versión de su asistente personal de inteligencia artificial basado en servidor que está en desarrollo. La startup renacida está construyendo un dispositivo de inteligencia artificial centrado en la privacidad, también conocido como Jolla Mind²que TechCrunch reveló exclusivamente en el MWC en febrero.

en un lanzamiento transmitido en vivo En el evento del lunes, también inició pedidos anticipados, y las primeras unidades se enviarán a finales de este año en Europa. Los pedidos anticipados globales se abren en junio y se planea enviarlos a finales de este año o principios del próximo.

En los más de dos meses transcurridos desde que vimos el primer prototipo impreso en 3D de la IA en una caja de Jolla, se ha generado un revuelo considerable en torno a otros dispositivos de IA centrados en el consumidor, como el Ai Pin de Humane y el Rabbit R1. Pero el interés inicial se ha desinflado ante las experiencias de usuario deficientes o inacabadas, y la sensación de que los incipientes dispositivos de IA requieren mucha experimentación y poca utilidad.

La startup europea detrás de Jolla Mind² está interesado en que su dispositivo de inteligencia artificial no caiga en esta trampa, según el director ejecutivo y cofundador Antti Saarnio. Es por eso que se están moviendo “con cuidado”, tratando de evitar el peligro de prometer demasiado y no cumplir lo suficiente.

“Estoy seguro de que este es uno de los mayores momentos disruptivos para la IA: la integración en nuestro software. Es una perturbación masiva. Pero los primeros enfoques fueron básicamente apresurados y ese fue el problema”, dijo a TechCrunch. «Debería introducir un software que realmente funcione».

La respuesta es dura, pero justa a la luz de los lanzamientos recientes.

Saarnio dice que el equipo planea enviar los primeros cientos de unidades (hasta 500) del dispositivo a los primeros usuarios en Europa este otoño, probablemente aprovechando la comunidad de entusiastas que creó en torno a productos anteriores como su sistema operativo móvil Sailfish.

Precios de Jolla Mind² Costará 699 € (IVA incluido), por lo que el hardware es considerablemente más caro de lo que el equipo había planeado originalmente. Pero también hay más RAM integrada (16 GB) y almacenamiento (1 TB) de lo que presupuestaron inicialmente. Menos bueno: los usuarios tendrán que pagar una suscripción mensual a partir de 9,99 €. Este es otro dispositivo de inteligencia artificial que no será barato.

Agentes de IA que viven en una caja

La mente Jolla² alberga una serie de agentes de IA optimizados para diversos casos de uso centrados en la productividad. Están diseñados para integrarse con servicios de terceros relevantes (a través de API) para que puedan ejecutar diferentes funciones por usted, como un agente de correo electrónico que puede clasificar su bandeja de entrada y redactar y enviar mensajes. O un agente de contactos que Jolla hizo una breve demostración en el MWC y que puede ser un depósito de información sobre las personas con las que interactúas para mantenerte al tanto de tu red profesional.

En una videollamada con TechCrunch antes del lanzamiento oficial del lunes, Saarnio hizo una demostración de la última versión de Jolla Mind.² – mostrando algunas características que no habíamos visto antes, incluido el agente de correo electrónico antes mencionado; una función de vista previa y resumen de documentos; una capacidad de firma electrónica para documentos; y algo nuevo que llama “bases de conocimiento” (más abajo).

Las funciones centradas en la productividad que vimos en la demostración funcionaban, aunque hubo algunos problemas de latencia notables. Saarnio, que se disculpó, dijo que los gremlins de la demostración habían atacado más temprano ese día, causando problemas de rendimiento de último minuto.

El cambio entre agentes también fue manual en la demostración de la interfaz del chatbot, pero dijo que esto se automatizaría a través de la comprensión semántica de la IA de las consultas de los usuarios para el producto final.

Los agentes de IA planificados incluyen: un agente de calendario; agente de almacenamiento; administración de tareas; agente de mensajes (para integrar con aplicaciones de mensajería de terceros); y un «agente entrenador», que pretenden aprovechar aplicaciones y dispositivos de seguimiento de actividad/salud de terceros para permitir al usuario consultar sus datos de salud cuantificados en el dispositivo.

La promesa de procesamiento privado en el dispositivo es el principal atractivo de venta del producto. Jolla insiste en que las consultas y los datos de los usuarios permanezcan seguros en el hardware que poseen. En lugar de (por ejemplo, si utiliza ChatGPT de OpenAI) que su información personal sea absorbida por la nube para la extracción de datos comerciales y la oportunidad de ganancias de otra persona…

La privacidad suena genial, pero claramente será necesario reducir la latencia al mínimo. Esto es doblemente importante, dado el caso de uso de productividad y conveniencia que Jolla también busca, junto con su enfoque estratégico central en proteger sus datos personales.

El argumento central es que el modelo de IA de alrededor de 3BN de parámetros integrado en el dispositivo (al que Saarnio se refiere como un «modelo de lenguaje pequeño») se puede conectar a todo tipo de fuentes de datos de terceros. Eso hace que la información del usuario esté disponible para su posterior procesamiento y utilidad extensible, sin que tenga que preocuparse de que la seguridad o integridad de su información se vea comprometida al aprovechar el poder de la IA.

Para consultas sobre dónde funciona Jolla Mind²Es posible que el modelo de inteligencia artificial local no sea suficiente, el sistema brindará a los usuarios la opción de enviar consultas «fuera del mundo» (a modelos de lenguaje grande (LLM) de terceros) y al mismo tiempo les hará saber que hacerlo significa que están enviando sus datos. fuera del espacio seguro y privado. Jolla está jugando con algún tipo de codificación de colores para los mensajes que indiquen el nivel de privacidad de datos que se aplica (por ejemplo, azul para seguridad total en el dispositivo; rojo para que sus datos estén expuestos a una IA comercial, por lo que todas las apuestas de privacidad están canceladas).

Saarnio confirmó que el rendimiento será una prioridad para el equipo mientras trabajan para perfeccionar el producto. «Es básicamente la vieja regla de que si quieres lograr un gran avance, tienes que ser cinco veces mejor que las soluciones existentes», dijo.

La seguridad también tendrá que ser absolutamente una prioridad. El hardware hará cosas como configurar una conexión VPN privada para que el dispositivo móvil o la computadora del usuario pueda comunicarse de forma segura con el dispositivo. Saarnio agregó que habrá una copia de seguridad cifrada basada en la nube de los datos del usuario que se almacenan en la caja en caso de falla o pérdida del hardware.

La arquitectura de cifrado de conocimiento cero que elijan para garantizar que no sea posible el acceso externo a los datos será una consideración importante para los usuarios preocupados por la privacidad. Esos detalles aún se están resolviendo.

¿Hardware de IA con un propósito?

Una gran crítica que se ha dirigido a los primeros dispositivos de inteligencia artificial como Ai Pin de Humane y Rabbit R1 toma la forma de una pregunta incómoda: ¿No podría ser esto solo una aplicación? Dado que, ya sabes, todo el mundo ya lleva un teléfono inteligente.

No es una línea de ataque que obviamente se aplica a Jolla Mind.². Por un lado, la caja que alberga la IA está diseñada para ser estática, no móvil. Guardado en un lugar seguro en casa o en la oficina. Por lo tanto, no llevará consigo dos piezas de hardware la mayor parte del tiempo. De hecho, tu móvil (o ordenador de sobremesa) es la herramienta habitual para interactuar con Jolla Mind.² – a través de una interfaz conversacional estilo chatbot.

El otro gran argumento de Saarnio para justificar Jolla Mind² como dispositivo es que intentar ejecutar un enfoque de estilo servidor personal para el procesamiento de IA en la nube sería difícil (o realmente costoso) de escalar.

“Creo que sería muy difícil escalar la infraestructura de la nube si tuviera que ejecutar un LLM local para cada usuario por separado. Tendría que tener un servicio en la nube funcionando todo el tiempo. Porque empezar de nuevo puede tardar unos cinco minutos, por lo que realmente no puedes usarlo de esa manera”, argumentó. “Podrías tener algún tipo de solución que puedas descargar en tu escritorio, por ejemplo, pero luego puedas usarla con tu teléfono inteligente. Además, si desea tener un entorno multidispositivo, creo que este tipo de servidor personal es la única solución”.

La base de conocimientos antes mencionada es otro tipo de característica del agente de IA que permitirá al usuario indicar al dispositivo que se conecte a depósitos de información seleccionados para ampliar aún más la utilidad.

Saarnio mostró un ejemplo de un volcado de información seleccionado sobre la deforestación en África. Una vez que una base de conocimientos ha sido ingerida en el dispositivo, está ahí para que el usuario la consulte, ampliando la capacidad del modelo para ayudarlo a comprender más sobre un tema determinado.

«El usuario [could say] ‘Oye, quiero aprender sobre la deforestación africana’”, explicó. “Entonces el agente de IA dice que tenemos un proveedor aquí. [who has] Creé una base de conocimiento externa sobre esto. ¿Quieres conectarte a él? Y luego podrás empezar a chatear con esta base de conocimientos. También puede pedirle que haga un resumen o documento/informe al respecto, etc.

“Esta es una de las grandes cosas en las que estamos pensando: que necesitamos tener calificado información en internet”, añadió. «Así que podrías pedirle a un líder intelectual o a un profesor de algún área como la ciencia climática que cree una base de conocimientos (cargue todos los artículos de investigación relevantes) y luego el usuario… podría tener algún tipo de confianza en que alguien ha calificado esta información».

Si Jolla puede hacer que esto vuele, podría ser bastante inteligente. Los LLM tienden no solo a fabricar información, sino también a presentar tonterías inventadas como si fueran la verdad absoluta. Entonces, ¿cómo pueden los usuarios de la web que navegan en un panorama cada vez mayor de contenidos generados por IA estar seguros de que están expuestos a información auténtica?

La respuesta de la startup a esta crisis de conocimiento que escala rápidamente es permitir que los usuarios apunten su propio modelo de IA en el dispositivo a sus fuentes de verdad preferidas. Es una solución agradablemente centrada en la agencia humana al problema de la verdad de la Gran IA. Los pequeños modelos de IA más fuentes de datos inteligentemente seleccionadas también podrían ofrecer un tipo de herramienta GenAI más respetuosa con el medio ambiente que la que ofrece la gran IA, con su enfoque de consumo de energía, computación y gran cantidad de datos.

Por supuesto, Jolla necesitará compilar bases de conocimientos útiles para que esta función funcione. Prevé que estos sean seleccionados (y calificados) por los usuarios y la comunidad más amplia que espera que respalde su enfoque. Saarnio considera que no es una gran petición. Los expertos en el campo podrán recopilar y compartir fácilmente repositorios de investigación útiles, sugiere.

Mente Jolla² destaca otra cuestión: hasta qué punto la experiencia de los usuarios de tecnología con el software suele estar muy fuera de su control. Las interfaces de usuario se diseñan habitualmente para distraer o acaparar la atención intencionalmente o incluso para ser directamente manipuladoras. Entonces, otro punto de venta del producto es ayudar a las personas a recuperar su agencia de todos los patrones oscuros, lodos, notificaciones, etc., etc., todo lo que realmente te molesta de todas las aplicaciones que tienes que usar. Puedes pedirle a la IA que elimine el ruido en tu nombre.

Saarnio dice que el modelo de IA podrá filtrar contenido de terceros. Por ejemplo, un usuario podría solicitar que se le muestren solo publicaciones relacionadas con la IA de su feed X y no tener que estar expuesto a nada más. Esto se suma a un superpoder bajo demanda para dar forma a lo que estás ingiriendo y lo que no estás ingiriendo digitalmente.

“Toda la idea [is] para crear un entorno de trabajo digital pacífico”, añadió.

Saarnio sabe mejor que la mayoría lo complicado que es convencer a la gente de que compre dispositivos novedosos, dada la larga historia de Jolla como fabricante alternativo de teléfonos inteligentes. Entonces, no es de extrañar que el equipo también esté planeando una operación de licencia B2B.

Aquí es donde la startup ve el mayor potencial para ampliar la adopción de su dispositivo de inteligencia artificial, afirma, y ​​postula que podrían tener un camino para vender “cientos de miles” o incluso millones de dispositivos a través de socios. Él admite que las ventas de la comunidad de Jolla probablemente no excedan unas pocas decenas de miles como máximo, igualando la escala limitada de su base de fans dedicada y entusiasta.

El componente de IA del producto se está desarrollando bajo otra (nueva) entidad comercial, llamada Venho AI. Además de ser responsable de los cerebros del software que impulsan Jolla Mind²esta empresa actuará como proveedor de licencias para otras empresas que quieran ofrecer sus propias versiones de marca del concepto de servidor personal con asistente de IA.

Saarnio sugiere que las empresas de telecomunicaciones podrían ser un posible cliente objetivo para la concesión de licencias del modelo de IA, dado que estos operadores de infraestructura una vez más parecen estar a punto de perderse el botín digital a medida que los gigantes tecnológicos giran para incorporar IA generativa en sus plataformas.

Pero primero lo primero. Jolla/Venho necesita enviar un producto de IA sólido.

«Primero debemos madurar el software, probarlo y desarrollarlo con la comunidad, y luego, después del verano, comenzaremos a discutir con los socios de distribución», añadió.