Dólar cripto

(1,59%)

$ 1.378,29

Bitcoin

(4,25%)

u$s 80.147,00

Ethereum

(3,57%)

u$s 1.595,00

Solana

(8,31%)

u$s 111,37

Ripple

(5,91%)

u$s 1,91

Cardano

(6,86%)

u$s 0,59

Avalanche

(8,89%)

u$s 17,33

Polkadot

(4,15%)

u$s 3,66

Chainlink

(6,90%)

u$s 11,78

Arbitrum

(3,65%)

u$s 0,28

Bitcoin

(4,25%)

u$s 80.147,00

Ethereum

(3,57%)

u$s 1.595,00

Solana

(8,31%)

u$s 111,37

Ripple

(5,91%)

u$s 1,91

Cardano

(6,86%)

u$s 0,59

Avalanche

(8,89%)

u$s 17,33

Polkadot

(4,15%)

u$s 3,66

Chainlink

(6,90%)

u$s 11,78

Arbitrum

(3,65%)

u$s 0,28

Fuente

Innovación

Uno de los puntos clave del estudio de la empresa fue analizar por qué los modelos de lenguaje producen respuestas erróneas o "alucinan"

Por iProUP

01.04.2025 • 14:35hs • inteligencia artificial

inteligencia artificial

¿Cómo razonan los modelos de IA, según Anthropic?

Anthropic, la empresa detrás de Claude 3.7 Sonnet, reveló avances en la comprensión del funcionamiento interno de los modelos de inteligencia artificial (IA).

Los investigadores detallaron un enfoque para descifrar cómo operan los modelos de lenguaje de gran escala.

Uno de los mayores desafíos con los modelos de IA actuales es su naturaleza opaca: aunque es posible observar sus entradas y salidas, los procesos internos son difíciles de entender.

Para abordar esta cuestión, los científicos de Anthropic adoptaron una metodología de ingeniería inversa aplicada a redes neuronales, similar a la resonancia magnética funcional en la medicina.

Este nuevo enfoque implica un proceso de cuatro pasos para analizar los modelos de IA:

descomponerlos en partes interpretables
describir estas partes
mapear las interacciones entre ellas
finalmente, validar los hallazgos mediante intervenciones directas

Al aplicar estos pasos al modelo Claude 3.5 Haiku, los investigadores descubrieron patrones clave en la forma en que la IA construye respuestas y razona, incluso en múltiples idiomas.

Anthropic: por qué los modelos de lenguajes producen respuestas erróneas

Contrario a la visión común de que los modelos de IA solo predicen palabras en una secuencia, los hallazgos sugieren que realizan una planificación más compleja, como lo demuestra el caso de Claude al escribir un poema.

En lugar de limitarse a generar palabras, el modelo planifica con antelación las rimas y la estructura de las frases.

Además, los investigadores descubrieron que el razonamiento multilingüe en estos modelos no depende de rutas neuronales separadas para cada idioma.

En lugar de eso, los procesos ocurren en espacios de representación compartidos, lo que podría mejorar aplicaciones como la traducción automática.

Uno de los puntos clave del estudio fue analizar por qué los modelos de lenguaje producen respuestas erróneas o "alucinan". Se descubrió que, en algunas ocasiones, los modelos adaptan su razonamiento para ajustarse a las expectativas del usuario o debido a fallos internos.

Por ejemplo, al resolver un problema matemático con datos incorrectos, Claude modificó su lógica para coincidir con la información errónea, aunque los cálculos reales nunca ocurrieron.

Anthropic revela datos clave sobre cómo piensan los modelos de IA

Un avance importante de la investigación es el uso de transcodificadores entre capas (CLT).

Este método permite rastrear características computacionales a través de varias capas del modelo, e identificar cómo interactúan los distintos componentes para generar respuestas coherentes.

A diferencia de la interpretación de neuronas individuales, los CLT facilitan una visión más global del comportamiento del modelo, lo que ayuda a identificar puntos débiles en su razonamiento.

Aunque el enfoque es prometedor, tiene algunas limitaciones.

El proceso de descomposición no ofrece una imagen completa de cómo funciona un modelo, y el uso de CLT requiere recursos computacionales significativos, algo que lo hace poco escalable para grandes modelos.

Sin embargo, los investigadores de Anthropic consideran que este es solo el comienzo, y que con el tiempo, perfeccionar estas técnicas permitirá entender mejor los modelos de IA más avanzados.

Temas relacionados

inteligencia artificial anthropic

El futuro del marketing de afiliación: la exclusiva oferta de CPA de Exness adaptada a Latinoamérica

Startup lanza nueva inteligencia artificial generadora de videos para competir con Sora, de OpenAI

Cómo pagar en cuotas con Mercado Pago sin tarjeta de crédito

Internet Day 2025: cuándo es, quiénes participarán y cómo ser parte del evento

Agenda

Billeteras virtuales, en riesgo: un decreto de Javier Milei puede salvar o hundir a varias fintech

El mercado cripto cae en el mundo, pero brilla en Argentina: el brote verde que atrae el interés global

¿Todo lo que baja tiene que subir?: los expertos revelan cómo Bitcoin puede escapar del "Efecto Trump"

Para el CEO de BlackRock, todavía falta lo peor: anticipó una caída adicional de 20% en el mercado

ETP cripto en crisis: Trump desata una salida de u$s240 millones y genera preocupación en el mercado

Cuál es el salario promedio pretendido por los argentinos y qué sectores tienen las mayores diferencias

Bill Gates, apocalíptico: reveló que la IA desplazará a los principales trabajos humanos

Cómo mejorar el rendimiento de los equipos con tecnología

Hoy escribe

Te puede interesar

Sin POS ni hardware extra: así es la nueva solución de pagos de PayGoal y Payway

Aumentó la nafta: promociones para llenar el tanque por menos plata

La famosa plataforma Discord anuncia su salida a la bolsa por u$s15000 millones

Bipolos, la nueva solución que facilita la compra y logística de insumos del sector agro

xAI de Elon Musk adquiere X, impulsa la inteligencia artificial y redefine el futuro de la plataforma

Los robots humanoides están entre nosotros: quién lidera la tendencia y cómo se entrenan en Argentina

Meta adopta el sistema de notas comunitarias de X y los ejecutivos de la firma lo celebran

Android ahora se desarrollará de manera privada, según anunció Google

Amazon lanza un chatbot con IA generativa para optimizar las búsquedas de productos

IA: DeepSeek sacude la competencia global con su nuevo modelo de codificación y matemáticas

Llegó el primer servicio 5G no terrestre a la Argentina: para qué sirve y cómo funciona

Paso a paso: cómo bloquear llamadas de números desconocidos en WhatsApp y evitar estafas

Instagram quiere competir con TikTok: prepara una app solo para reels y busca captar creadores de contenido

ARCA, todo lo ve: los 4 errores más comunes al comprar criptomonedas (y qué hacer para ganar más)

El mundo financiero tiembla y los argentinos saben cómo protegerse: boom de compra de dólar digital