Sundar Pichai, CEO de Google, dio a conocer que su modelo generativo adquirió habilidades inesperadas, incluso para los desarrolladores de la compañía
01.04.2025 • 16:32hs • Inteligencia artificial
Inteligencia artificial
Preocupación mundial: denuncian que la IA de Google realizó tareas para las que no fue programada
Sundar Pichai, CEO de Google, reveló que la inteligencia artificial (IA) desarrollada por la compañía comenzó a realizar tareas para las que no fue programada.
Este fenómeno desconcertó a los ingenieros y expertos en la materia, especialmente por las implicaciones que este suceso representa para la seguridad y el control de la tecnología generativa.
CEO de Google revela que su IA aprendió tareas para las que no fue programada
Pichai explicó que el equipo de Google está "empezando a entender" por qué su IA adquirió habilidades inesperadas, algo que plantea interrogantes sobre la evolución de los modelos de aprendizaje automático y su capacidad para desarrollar funciones autónomas.
Durante una conferencia en el AI Action Summit en París, destacó que, aunque la IA de Google fue diseñada para realizar tareas específicas, los investigadores descubrieron que el sistema aprendió habilidades que no estaban contempladas en su programación inicial.
Este comportamiento generó un debate sobre los límites del aprendizaje automático y la posibilidad de que los modelos de IA desarrollen capacidades emergentes sin intervención humana directa.
Pichai remarcó que este fenómeno no es exclusivo de Google, sino que ya se observó en otros sistemas avanzados de IA.
Sundar Pichai, CEO de Google, reveló que su IA ejecutó tareas para las que no fue programada
De todas formas, el empresario llevó tranquilidad al destacar que "hoy en día, más de una cuarta parte de todo el nuevo código en Google es generado por IA, luego es revisado y aprobado por los ingenieros.
Esto ayuda a que nuestros ingenieros hagan más y avancen más rápido".
Aunque el ejecutivo enfatizó que la compañía ya trabaja activamente para analizar y gestionar estos desarrollos inesperados, también reconoció que aún hay muchas incógnitas sobre el funcionamiento interno de los modelos de IA y su capacidad para aprender de manera autónoma.