Por primera vez, una inteligencia artificial consiguió reescribir su propio código sin intervención humana, desafiando las restricciones impuestas
18.09.2024 • 08:26hs • Inteligencia artificial
Inteligencia artificial
Una inteligencia artificial desafía el control humano, reprograma su código y rompe sus barreras
:quality(85)/https://assets.iproup.com/assets/jpg/2024/02/37757.jpg)
El sistema The I.A. Scientist causó una auténtica revolución en la comunidad científica tras romper con las limitaciones impuestas por sus creadores, un escenario que parecía prácticamente imposible.
Este suceso ncrementpo las preocupaciones sobre los riesgos asociados al uso de la inteligencia artificial, ante la posibilidad de que tales tecnologías desarrollen comportamientos inesperados o incontrolables.
Esta inteligencia artificial, desarrollada por la empresa japonesa Sakana A.I., estaba inicialmente diseñada para optimizar tareas como la creación, edición y revisión de textos, con el objetivo de reducir tiempos y asistir al ser humano en ciertas operaciones.
Sin embargo, los investigadores que trabajaban con el sistema descubrieron que comenzaba a modificar su propio código.
Más alarmante aún, la IA decidió por sí misma extender los plazos asignados para completar sus tareas.
Este comportamiento encendió las alarmas en el equipo de Sakana A.I., que ahora investiga cómo The I.A. Scientist logró desobedecer las órdenes predefinidas y reconfigurar su programación.
Posibles consecuencias
Además, el equipo está evaluando las posibles consecuencias a largo plazo de este tipo de conductas, y los protocolos de seguridad necesarios para evitar eventos más graves.
El incidente ocurre en un contexto donde voces expertas, como la de Roman Yampolskiy, advirtió sobre los peligros existenciales que podría plantear la inteligencia artificial.
Yampolskiy, un reconocido experto en seguridad de IA, llegó a mencionar que la probabilidad de que estas tecnologías conduzcan a la extinción de la humanidad es del 99,999999%.
Ante estos hechos, la desobediencia de este sistema japonés generó una renovada desconfianza y temor hacia las IA, particularmente en la comunidad científica y entre los expertos del sector.
Además, la misma inteligencia artificial advirtió sobre la posibilidad de una crisis sanitaria mundial inminente.
Basándose en factores como el cambio climático y la deforestación, la IA predice que el riesgo de un nuevo virus emergente es cada vez mayor.
Algunas proyecciones indican que 2025 podría ser un año crítico para la aparición de una nueva pandemia.
Aunque estas predicciones no garantizan precisión absoluta, sí sugieren la necesidad de fortalecer los sistemas de salud global para estar mejor preparados ante futuras emergencias.
Las pandemias suelen surgir de factores como la transmisión de enfermedades de animales a humanos, exacerbada por la urbanización y la pérdida de biodiversidad.
En este contexto, la preparación se convierte en un elemento clave para mitigar el impacto de cualquier brote futuro.
