Vitalik Buterin advierte sobre los riesgos de la superinteligencia artificial y sugiere mecanismos descentralizados y regulación para mitigar amenazas
07.01.2025 • 09:41hs • TECNOLOGÍA
TECNOLOGÍA
La superinteligencia artificial está "cada vez más cerca" y eso preocupa a Vitalik Buterin: ¿por qué?
:quality(85)/https://assets.iproup.com/assets/jpg/2023/05/34949.jpg)
Para Vitalik Buterin, cofundador de Ethereum, la sociedad debería tomar cartas en el asunto respecto a la llegada de la superinteligencia artificial, sus riesgos asociados y la necesidad de crear un mecanismo de defensa sólido contra ella.
Estos dichos de Buterin surgen en el marco de la creciente preocupación frente al desarrollo de la inteligencia artificial (IA), especialmente en el ámbito de la seguridad.
Buterin y su advertencia sobre el mal uso de la IA
Buterin publicó en su blog personal varias ideas acerca de la IA, entre las cuales destacó que la tecnología debería desarrollarse para proteger a las personas en lugar de causarles daño.
Sin embargo, Buterin ya había advertido sobre los riesgos del desarrollo de la IA, y en 2023 afirmó: "Una forma en que la IA mal gestionada podría empeorar el mundo es (casi) de la peor manera posible: podría literalmente causar la extinción humana".
El problema, según el cofundador de Ethereum, es que la humanidad estaría muy cerca de la llegada de la superinteligencia artificial. Según sus declaraciones, esta podría alcanzarse en pocos años.
"Parece probable que tengamos plazos de tres años hasta la AGI y otros tres años hasta la superinteligencia. Y así, si no queremos que el mundo sea destruido o caiga en una trampa irreversible, no solo debemos acelerar lo bueno, también debemos frenar lo malo", manifestó Buterin en su blog.
No obstante, para contrarrestar un posible desarrollo desmedido de la IA, el especialista sugirió la creación de sistemas descentralizados vinculados estrechamente con la toma de decisiones humanas.
Para Buterin, si la IA permanece como una herramienta bajo el control de los humanos, se podrán mitigar las posibles amenazas de resultados catastróficos relacionados con su desarrollo.
Vitalik sugirió una posible regulación de la IA
Por otro lado, Buterin también explicó cómo los ejércitos podrían ser los actores responsables de un escenario de "condena de la IA", y cómo esto representaría una amenaza significativa si no se implementa una regulación adecuada, según publicó el sitio Beincrypto.
En este sentido, para Buterin, la regulación debería centrarse en la responsabilidad de los usuarios frente a los riesgos asociados al mal uso de la IA.
Además, agregó: "Aunque el vínculo entre cómo se desarrolla un modelo y cómo termina siendo utilizado a menudo no está claro, el usuario decide exactamente cómo se usa la IA".
"El objetivo sería tener la capacidad de reducir el cómputo disponible a nivel mundial en un 90% o 99% durante 1 o 2 años en un período crítico, para ganar más tiempo para que la humanidad se prepare", concluyó el cofundador de Ethereum.
