Meta y Apple dicen la parte tranquila en voz alta: el emperador genAI no tiene ropa

“Los modelos actuales en realidad sólo predicen la siguiente palabra en un texto”, afirma. Pero son tan buenos en esto que nos engañan. Y debido a su enorme capacidad de memoria, puede parecer que están razonando, cuando en realidad simplemente están regurgitando información en la que ya han sido entrenados.

“’Estamos acostumbrados a la idea de que las personas o entidades que pueden expresarse o manipular el lenguaje son inteligentes, pero eso no es cierto’, dice LeCun. ‘Se puede manipular el lenguaje y no ser inteligente, y eso es básicamente lo que están demostrando los LLM’”.

Ésa es la cuestión clave. Las empresas están poniendo demasiada fe en los sistemas genAI, dice Francesco Perticarari, socio general de la casa de inversión en tecnología Silicon Roundabout Ventures en Londres, Inglaterra.

Es fácil suponer que las raras respuestas correctas dadas por estas herramientas son destellos de brillantez, en lugar de que genAI haya tenido una suposición afortunada. Pero “el resultado no se basa en absoluto en el razonamiento. Se basa simplemente en una informática extremadamente potente”, afirmó Perticarari.

Poniendo genAI en el asiento del conductor

Un punto de venta frecuentemente citado para genAI es que algunos modelos han demostrado ser bastante efectivos para aprobar varios exámenes de abogados estatales. Pero esos exámenes de la barra son entornos ideales para genAI, porque todas las respuestas están publicadas. Las memorizaciones y las regurgitaciones son usos ideales para genAI, pero eso no significa que las herramientas genAI tengan las habilidades, la comprensión y la intuición para practicar el derecho.