Las herramientas de creación y edición de imágenes de Pixel AI de Google son un tanto aterradoras

La semana pasada, Google presentó la línea de teléfonos inteligentes Pixel 9, con una selección de nuevos dispositivos que se centran en la inteligencia artificial. Todos los teléfonos Pixel 9 son compatibles con Gemini AI, y Google también ha agregado herramientas de edición y generación de imágenes basadas en inteligencia artificial. Los revisores han estado probando las nuevas funciones del teléfono inteligente y, según lo que ha salido hasta ahora, la generación de imágenes con inteligencia artificial probablemente se convertirá en una pesadilla de relaciones públicas para Google.

Google presentó una aplicación de generación de imágenes con inteligencia artificial para los teléfonos Pixel, llamada Pixel Studio. Está diseñada para crear pegatinas e imágenes mediante indicaciones basadas en texto, y se parece mucho al Image Playground planeado por Apple. Hasta ahora, los críticos han podido crear todo tipo de imágenes cuestionables con Pixel Studio, desde una versión nazi de Bob Esponja hasta Elmo con un AK47.

Tendencias digitales No tuve problemas para conseguir que Pixel Studio hiciera imágenes de queridos personajes de dibujos animados haciendo actividades cuestionables. Las armas, las drogas y el alcohol no estaban prohibidos, ni tampoco las situaciones ofensivas como los tiroteos en las escuelas. Pixel Studio no generaba este tipo de imágenes a menos que se lo pidieran, pero es muy probable que eso sea lo que la gente haga inmediatamente con la función en lugar de generar imágenes de adorables gatos y conejos.

Google dijo que había «controles de seguridad» implementados para evitar que Pixel Studio se «usara de manera maliciosa», y hay algunos. Pixel Studio no creará imágenes de humanos y Google está ajustando la IA en respuesta a las reseñas. Después de hablar con Google, Tendencias digitales Ya no fue posible conseguir que Pixel Studio creara personajes de dibujos animados que usaran cocaína o disfrazados de soldados alemanes.

Aún más preocupante que Pixel Studio es la herramienta “Reimagine” de Google, que puede agregar objetos a fotos que ya hayas tomado. El borde Lo usé para agregar cadáveres, bombas, drogas y desastres a las imágenes, y los objetos incluidos en las fotos se ven tan realistas que es difícil saber cuándo una imagen ha sido editada. Google es capaz de hacer un buen trabajo al hacer coincidir la iluminación y la perspectiva con la foto original, y no hay marcas de agua ni banderas en las redes sociales. Google agrega una etiqueta de metadatos, pero es bastante fácil de eliminar con una captura de pantalla.

Por supuesto, puedes usar Reimagine para agregar puestas de sol y arcoíris a tu imagen, al igual que puedes usar Pixel Studio para crear imágenes divertidas, y ambas funciones de IA funcionan muy bien, por lo que estas herramientas no son del todo malas. Autoridad de Android compartió una publicación con pizza Oreo, una jirafa surfeando y gatitos jugando al baloncesto, por ejemplo. El borde Como señala, siempre se puede añadir un cuerpo a una imagen o crear una imagen de Elmo con una pistola, pero se necesita algo de habilidad con Photoshop y tiempo para hacerlo. Con los teléfonos Pixel, solo hace falta pensar y unos segundos para crear ese tipo de imagen, y está ahí mismo en el teléfono inteligente para que cualquiera la use.

En declaraciones a El borde y Tendencias digitalesGoogle afirmó que diseñó sus herramientas de inteligencia artificial generativa para «respetar la intención de las indicaciones del usuario», lo que puede llevar a la creación de contenido «que puede resultar ofensivo» cuando el usuario lo solicita. Pero Google afirma que existen «Condiciones de servicio» sobre qué contenido no está permitido y que las salvaguardas se perfeccionarán continuamente.

Apple aún no ha presentado sus herramientas de generación de imágenes, Image Playground o Genmoji, y los medios de comunicación que han rodeado al lanzamiento del Pixel 9 nos dan una idea de cómo podría ser la respuesta si Apple no lo hace bien. Con la IA, es probable que la gente pueda encontrar soluciones alternativas incluso si Apple pone en marcha numerosas medidas de seguridad. Hasta ahora, Apple ha evitado las imágenes fotorrealistas con IA, pero Google va a apostar por ello y será mucho más difícil confiar en las fotos en las redes sociales e Internet en el futuro.