Un robot casi golpeó a un espectador del festival en China. Aquí hay cuatro pasos urgentes para hacer que la tecnología sea más segura

Se supone que los robots humanoides son nuestros fieles asistentes, pero Vimos otro lado a ellos el otro día. El fabricante de robots chinos Unitree estaba demostrando sus últimos robots H1 en un festival de linterna en la ciudad de Taishan, provincia de Guangdong, cuando uno se acercó a la barrera de la multitud y parecía lanzar a una anciana, casi la cabeza.

El incidente rápidamente se volvió viral y provocó un debate feroz sobre si el robot realmente atacó a la mujer o se había tropezado. Se pasa por alto principalmente que estamos muy lejos de tener robots que podrían atacar intencionalmente a alguien, máquinas como estas a menudo se controlan a distancia, pero el peligro para el público es claramente lo suficientemente real.

Con Ventas de robots humanoides Establecido para dispararse durante la próxima década, el público estará cada vez más en riesgo de este tipo de incidentes. En nuestra opinión, como investigadores de robótica, los gobiernos han pensado muy poco en los riesgos.

Aquí hay algunos pasos urgentes que deben tomar para hacer que los robots humanoides sean lo más seguros posible.

1. Aumentar los requisitos del propietario

El primer tema importante es en qué medida los robots humanoides serán controlados por los usuarios. Mientras que Tesla Optimus puede ser operado de forma remota Por personas en un centro de control, otros como el UNITREE H1S están controlados por el usuario con un joystick de mano.

Actualmente a la venta por alrededor de £ 90,000, vienen con un kit de desarrollo de software en el que puede desarrollar su propio sistema de inteligencia artificial (IA), aunque solo en un grado limitado. Por ejemplo, podría decir una oración o reconocer una cara pero no llevar a sus hijos a la escuela.

¿Quién tiene la culpa si alguien es herido o incluso asesinado por un robot controlado por humanos? Es difícil saberlo con certeza: cualquier discusión sobre la responsabilidad implicaría probar si el daño fue causado por el error humano o un mal funcionamiento mecánico.

Esto surgió en un caso de Florida en el que un viudo demandó al fabricante de robot médico Intuitive Surgical Inc por la muerte de su esposa en 2022. Su muerte estaba vinculada a lesiones que sufrió de un Quema de calor en su intestino durante una operación causada por una falla en una de las máquinas de la compañía.

El el caso fue abandonado en 2024 después de ser despedido parcialmente por un juez de distrito. Pero el hecho de que el viudo demandó al fabricante en lugar de a los médicos demostró que la industria de la robótica necesita un marco legal para prevenir tales situaciones tanto como el público.

Mientras que para los drones hay leyes de aviación y otras restricciones para gobernar su uso en áreas públicas, no hay leyes específicas para caminar robots.

Hasta ahora, el único lugar para presentar las pautas de gobernanza es Provincia de Shanghai de China. Publicado en el verano de 2024, estos incluyen estipular que los robots no deben amenazar la seguridad humana, y que los fabricantes deben capacitar a los usuarios sobre cómo usar estas máquinas éticamente.

Para los robots controlados por los propietarios, en el Reino Unido actualmente no hay nada que evite que alguien tome un perro robot a pasear en un parque concurrido, o un robot humanoide al pub por una pinta.

Como punto de partida, podríamos prohibir a las personas controlar robots bajo la influencia del alcohol o las drogas, o cuando se distraen de otra manera, como usar sus teléfonos. Su uso también podría restringirse en entornos arriesgados, como espacios confinados con muchos miembros del público, lugares con incendios o riesgos químicos, y los techos de los edificios.

2. Mejorar el diseño

Los robots que se ven elegantes y pueden bailar y voltear son divertidos de ver, pero ¿qué tan seguros son el público? Los diseños seguros considerarían todo, desde la reducción de las cavidades donde los dedos podrían ser atrapados, hasta componentes internos impermeabilizados.

Las barreras o exoesqueletos de protección podrían reducir aún más el contacto no deseado, mientras que los mecanismos de amortiguación podría reducir el efecto de un impacto.

Los robots deben estar diseñados para señalar su intención a través de luces, sonidos y gestos. Por ejemplo, posiblemente deberían hacer un ruido al ingresar a una habitación para no sorprender a nadie.

Incluso los drones pueden alertar a su usuario si pierden señal o batería y necesitan regresar a casa, y tales mecanismos también deben integrarse en robots para caminar. No existen requisitos legales para ninguna característica de este tipo.

No es que los fabricantes ignoren por completo estos problemas para caminar robots. Unitree’s cuadrúpedo GO2, por ejemplo, parpadea y pitidos cuando la batería está baja o si se sobrecalienta.

También tiene cortes de emergencia automáticos en estas situaciones, aunque un operador remoto debe activarlos cuando el robot está en «modo telemétrico». De manera crucial, sin embargo, no hay regulaciones claras para garantizar que todos los fabricantes cumplan con un cierto estándar de seguridad.

3. Operadores de trenes

Claramente, habrá peligros con los robots que usan características de IA, pero los modelos operados remotos podrían ser aún más peligrosos. Los errores podrían resultar de la falta de capacitación del mundo real de los usuarios y experiencia en situaciones de la vida real.

Parece haber una gran brecha de habilidades en la capacitación del operador, y Las compañías de robótica necesitarán Priorice esto para garantizar que los operadores puedan controlar las máquinas de manera eficiente y segura.

Además, los humanos pueden tener tiempos de reacción retrasados ​​y concentración limitada, por lo que también necesitamos sistemas que puedan monitorear la atención de los operadores de robots y alertarlos para evitar accidentes. Esto sería similar al Sistemas de detección de distracción de hgv-conductor que se instalaron en vehículos en Londres en 2024.

4. Educar al público

El incidente en China ha destacado los conceptos erróneos actuales sobre los robots humanoides, ya que los medios son una vez más. Culpar a la IA A pesar del hecho de que este no era el problema. Esto corre el riesgo de causar una desconfianza generalizada y confusión entre el público.

Si las personas entienden en qué medida los robots caminantes están operados por el propietario o operados remotamente, cambiará sus expectativas sobre lo que el robot podría hacer y hará que todos sean más seguros como resultado.

Además, comprender el nivel de control del propietario es vital para administrar las expectativas de los compradores y advertirlas sobre cuánto necesitarán para aprender sobre operar y programar un robot antes de comprar uno.

Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.