Innovación

Meta adoptó un enfoque de código abierto con el objetivo de hacer pública una IA general, pero advierte sobre los riesgos de ciertos sistemas peligrosos

Por iProUP

06.02.2025 • 16:30hs • Seguridad

Seguridad

Meta: ¿cómo funciona su método de seguridad para detectar IA de alto riesgo?

Meta adoptó un enfoque de código abierto con el ambicioso objetivo de crear y, eventualmente, hacer pública una inteligencia artificial general (IA). Esta búsqueda es también el deseo compartido por otros gigantes tecnológicos como Google y Microsoft, entre otros.

Inteligencia artificial: el método de Meta para detectar sistemas de alto riesgo

Sin embargo, la empresa advirtió que no todos los sistemas de IA son aptos para su distribución, especialmente aquellos que podrían resultar peligrosos.

Meta aclaró en ese sentido que no planea hacer públicos ciertos tipos de sistemas de IA, particularmente aquellos clasificados como de "alto riesgo" o "riesgo crítico". Estos sistemas, que pueden involucrar áreas como la seguridad informática, el manejo de productos químicos o la producción de armas biológicas, tienen el potencial de causar daños graves que no pueden ser mitigados por su contexto de uso.

Aunque Meta no proporcionó una lista detallada de ejemplos, remarcó que las amenazas más inmediatas y probables son las que guían sus decisiones.

Según la empresa, no se trata de imaginar escenarios apocalípticos, sino de identificar riesgos más concretos.

Una característica notable de la estrategia de Meta es la falta de un sistema formal de clasificación de riesgos. En lugar de depender de métricas empíricas, la empresa se basa en las evaluaciones de investigadores internos y externos, debido a la falta de conocimiento suficiente en el campo para crear evaluaciones completamente confiables.

Cuando un sistema es calificado como de alto riesgo, Meta limita su acceso y pospone su publicación hasta que se implementen las medidas de seguridad necesarias para reducir el riesgo a niveles más manejables.

En el caso de los sistemas de riesgo crítico, la compañía adopta medidas drásticas para evitar que el sistema se filtre y congela su desarrollo hasta que logre reducir el riesgo a un nivel aceptable.

Temas relacionados

Android ahora se desarrollará de manera privada, según anunció Google

Amazon lanza un chatbot con IA generativa para optimizar las búsquedas de productos

IA: DeepSeek sacude la competencia global con su nuevo modelo de codificación y matemáticas

Llegó el primer servicio 5G no terrestre a la Argentina: para qué sirve y cómo funciona

Se acerca el día que puede cambiar todo para las cripto y los inversores refuerzan sus apuestas al Bitcoin

Exclusivo: startup argentina que ofrece tarjeta, inversión y créditos descentralizados levantó u$s2 millones

Llega un dólar digital que promete ganancias del 20%, pero recuerda a la última gran debacle cripto

Cuenta DNI: en solo dos semanas se otorgaron más de $61 mil millones en préstamos

¿Qué es el 'multiverso stablecoin' que anticipa el CEO de Tether?

Europa responde a los aranceles de Trump y amenaza con medidas contra PayPal

Precio de Solana: cuánto vale en Argentina y a nivel global hoy, 28 de marzo de 2025

Lanzan nuevos cursos para formarse en Inteligencia Artificial y Ciencia de Datos: cómo anotarse

Sam Altman no lo duda: Esta es la profesión que peligra con la llegada de la inteligencia artificial

Upskilling y Reskilling con IA: el proceso para ayudar a la evolución de los talentos de las empresas

La carrera de mayor futuro si se elige bien la especialidad: tiene alta demanda y paga hasta $8 millones

Te puede interesar

No es Amazon: este es el mejor sitio para comprar productos del exterior desde Argentina

Gmail sin contraseñas: el nuevo método que promete mayor seguridad implementado por Google

Merma de los servicios digitales: ¿por qué los consumidores confían cada vez menos en estas plataformas?

"Bitcoin seguirá siendo el mejor espacio de reserva de valor en 20 años"

Más competencia para Elon Musk: Google lanza su propio servicio de internet para rivalizar con Starlink

Perplexity es la nueva empresa que se suma al interés por adquirir TikTok: cuáles son sus planes

El trading llegó a Telegram: así es el bot que te ayudará a tradear con inteligencia artificial

Chau al Instagram de siempre: esta actualización podría marcar un antes y un después en la red social

Meta lanzará su IA en territorio europeo y desafía a la UE

Computación cuántica: Nvidia lanza un centro de investigación en Boston

Bill Gates revela la única profesión que la inteligencia artificial no reemplazará: de cuál se trata

La IA revoluciona el ámbito judicial con esta nueva herramienta: cómo funciona la solución de Unitech

Telegram se actualiza y suma una herramienta para evitar estafas: cómo funcionará

Alertas AMBER: la función que llega a TikTok para ayudar a encontrar chicos perdidos

Chau escaneo del iris: qué te pide World ahora y el dueño de ChatGPT a cambio de una recompensa