Logo Viña.cl

Extrabajador de Anthropic advierte sobre los peligros que conllevan los avances de las IA

Un ex empleado de Anthropic y OpenAI alerta sobre los peligros de la inteligencia artificial y cuestiona la competencia por lograr una superinteligencia.

Internacional
Más Noticias
Prensa Web
Advertencia de extrabajador de Anthropic sobre IA
Internacional

Ciberataque afecta sitios de BBC, IKEA y otras grandes empresas: detectan código malicioso para robar datos

hackeo
Internacional

Kast rinde homenaje a Ho Chi Minh en Vietnam pese a haberlo calificado de “asesino en serie”

Diseño sin título (5)
Internacional

China confirma histórica reunión entre Xi Jinping, Donald Trump y Vladímir Putin durante cumbre APEC 2026

cooperacion-Rusia-China-y-Estados-Unidos-hecho-con-IA
Internacional

Trump revela conversación con Jensen Huang tras su renuncia a Nvidia: “Está pasando por un infierno”

trump nvidia
expresidentes

Senado repone recursos para expresidentes en Presupuesto 2027: partida contempla más de $915 millones

Nacional

openai lincolao

Gobierno de Chile y OpenAI firman acuerdo para incorporar inteligencia artificial al Estado: aclaran alcances y condiciones

Nacional

hackeo

Ciberataque afecta sitios de BBC, IKEA y otras grandes empresas: detectan código malicioso para robar datos

Internacional

kast china

Kast destaca alianza comercial con China durante lanzamiento de nueva temporada de cerezas chilenas

Nacional

Jacob Coxon, un extrabajador de Anthropic, generó controversia al publicar una serie de reflexiones en su cuenta de X después de renunciar a la compañía. Coxon, quien trabajó en investigación de preentrenamiento durante tres años tanto en OpenAI como en Anthropic, expresó su preocupación por el rumbo que están tomando ambas empresas.

Anthropic es una empresa estadounidense especializada en inteligencia artificial, reconocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía se enfoca en la investigación y desarrollo de sistemas avanzados de inteligencia artificial, con énfasis en la seguridad y el desarrollo responsable de esta tecnología.

'Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas', advirtió Coxon.

Coxon advirtió sobre los avances en inteligencia artificial que podrían llevar pronto a sistemas con capacidades sobrehumanas y un impacto significativo en diversos ámbitos. Expresó: 'No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales'.

'Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro', aseguró Coxon.

El excolaborador también explicó por qué los laboratorios continúan avanzando a pesar de los riesgos planteados. Según su análisis, mientras algunos no habrían comprendido completamente las consecuencias, otros estarían atrapados en una carrera por llegar primero debido a la falta de responsabilidad percibida en el sector.

'Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo', sostuvo Coxon.

Coxon cuestionó que decisiones tan trascendentales queden en manos de empresas privadas y sugirió medidas para evitar posibles consecuencias negativas derivadas del avance descontrolado en inteligencia artificial.

'Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles', señaló.

A pesar de sus críticas, Coxon se mostró optimista respecto a la posibilidad de alcanzar acuerdos entre los laboratorios dedicados a la IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas drásticas como una prohibición temporal para mejorar las capacidades de los modelos.

'Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos entre laboratorios sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal para mejorar las capacidades de los modelos', concluyó Coxon.

Finalmente, Coxon hizo un llamado a los investigadores del campo para reflexionar sobre si deben continuar avanzando simplemente porque consideran inevitable el desarrollo tecnológico o si es necesario replantearse ciertos aspectos éticos y prácticos relacionados con la inteligencia artificial.



Fuente: Meganoticias

Tecnología
Diseño sin título (1)

Histórico Mundial para Chile: tres representantes del Team ParaChile disputarán finales por el oro en Tailandia

Deportes

alamos

Nuevo presidente de Azul Azul anuncia propuesta para bajar entradas de La U en 2027 y responde a Aníbal Mosa

Deportes

sala-cuna-universal

Sala Cuna Universal avanza en el Congreso: aprueban rebaja en financiamiento y nuevos apoyos para familias vulnerable

Nacional

expresidentes

Senado repone recursos para expresidentes en Presupuesto 2027: partida contempla más de $915 millones

Nacional

openai lincolao

Gobierno de Chile y OpenAI firman acuerdo para incorporar inteligencia artificial al Estado: aclaran alcances y condiciones

Nacional

hackeo

Ciberataque afecta sitios de BBC, IKEA y otras grandes empresas: detectan código malicioso para robar datos

Internacional

kast china

Kast destaca alianza comercial con China durante lanzamiento de nueva temporada de cerezas chilenas

Nacional

criteria kast

Encuesta Criteria: aprobación del presidente Kast cae al 18% y desaprobación llega al 72%

Nacional

Diseño sin título (3)

Padre del subsecretario Máximo Pavez es formalizado por choque en estado de ebriedad que dejó a hombre en riesgo vital

Nacional

Diseño sin título (5)

Kast rinde homenaje a Ho Chi Minh en Vietnam pese a haberlo calificado de “asesino en serie”

Internacional

atleta Ricardo Rojas

Atleta chileno denuncia grave error en Sudamericano de Medio Maratón: perdió opción al oro y cuestiona a la organización

Deportes

cooperacion-Rusia-China-y-Estados-Unidos-hecho-con-IA

China confirma histórica reunión entre Xi Jinping, Donald Trump y Vladímir Putin durante cumbre APEC 2026

Internacional

milad

Pablo Milad defiende fallo que salvó a San Marcos de Arica de la desafiliación y descarta favoritismos en la ANFP

Deportes

Rabat-3

Oposición presenta acusación constitucional contra ministro Fernando Rabat por rebajas de condenas

Nacional

congelamiento-combustibles-nacional-v2-1920x1080-1

Gobierno acuerda rebaja de $142 al diésel y frena alzas de combustibles hasta marzo de 2027 tras paro de camioneros

Nacional

Internacional

Francia enfrenta nuevas protestas masivas: reportan cientos de miles de personas en las calles

​Una nueva jornada de huelga y movilizaciones convocada por organizaciones del sector público reunió a miles de personas en París y otras ciudades francesas. Mientras el Gobierno contabilizó 146 mil participantes, la Confederación General del Trabajo elevó la cifra a más de medio millón. Los trabajadores exigen mejoras salariales frente al aumento del costo de vida.

Francia


Deportes

Rangers llevará al TAS el caso San Marcos de Arica y buscará revertir su descenso a Segunda División

​El club de Talca confirmó que recurrirá al Tribunal de Arbitraje Deportivo tras cuestionar la resolución de la Segunda Sala de la ANFP, que anuló la desafiliación del conjunto ariqueño y la reemplazó por una multa de 2.000 UF. La institución rojinegra también anunció que comenzará a planificar su participación en Segunda División mientras espera el resultado del proceso.

tas


Destacados
Más Recientes
trump nvidia

Trump revela conversación con Jensen Huang tras su renuncia a Nvidia: “Está pasando por un infierno”

Internacional
paro camioneros

Paro de camioneros en Chile afecta comercio con Bolivia: más de 700 vehículos varados y millonarias pérdidas

Nacional
Internacional

Chilena víctima de abusos en la Iglesia se reúne con el papa León XIV y exige avanzar en reparación y justicia

papa
Internacional

Latin Grammy 2026: Rosalía y Milo J lideran los premios en Las Vegas y estos son los ganadores

Grammys 2026
Deportes

La Roja prepara su formación ante Colombia: Nicolás Córdova mantendría la base que venció a México

roja-cordova-colombia
Deportes

VIDEO | Marcos Bolados marcó en los descuentos y le dio a Colo Colo su título número 35 ante Ñublense

Bolados

MÁS NOTICIAS
vozinha

Vozinha fue clave en el título de Colo Colo: tapada decisiva, emotiva dedicatoria y dudas sobre su futuro

Deportes
trumpo

Trump reconoce excesos en deportaciones de inmigrantes tras derrota republicana en elecciones de Estados Unidos

Internacional
Internacional

NASA busca nuevos astronautas para vivir en la Luna y preparar futuras misiones a Marte: estos son los requisitos

nasa-4
Nacional

Camioneros se movilizan por alza de combustibles: CNTC descarta paro nacional y se distancia de las protestas

CNTC
Nacional

Biministro Mas exige devolución de bonos en Codelco por cifras de producción alteradas y apunta a responsabilidades del directorio

mass
Regiones

Desarticulan red dedicada al robo y venta de salmones en Aysén

salmon

Temas
reactivava

Viviendas nuevas podrían quedar exentas de IVA desde diciembre: Medida reactivará el sector inmobiliario

Nacional
Screenshot 2026-11-08 121743

​Agricultura y energías renovables en Tarapacá: Energía solar abre oportunidades para fortalecer la agricultura en el desierto de Tarapacá

Regional
Nacional

Solo 23 de las 345 municipalidades de Chile cumplen al 100% con la Ley de Transparencia

transparencia
Nacional

Ministro Rabat descarta renunciar en medio de acusación constitucional, mientras Parisi alinea postura conjunta del PDG

parisirabat
Internacional

Hackean aplicaciones de emergencia en Rusia y Ucrania y difunden falsas alertas de ataques nucleares

hack
Deportes

Sebastián Beccacece aparece como opción para dirigir a la Roja ante las próximas elecciones de la ANFP

beccacece

Nacional
rabat

Fernando Rabat enfrenta rechazo histórico y la DC confirma acusación constitucional por decretos a extorsionadores del Tren de Aragua

Nacional
santiagocity

Santiago City: ANFP resta puntos por falta financiera en Segunda División

Deportes

INTERNACIONAL
Piratería de TV digital: 16 detenidos tras investigación de seis años

Piratería de TV digital: 16 detenidos tras investigación de seis años

Nacional
team

Team ParaChile recibe histórica donación para Los Ángeles 2028

Deportes
Nacional

Revés en tramitación del Presupuesto 2027 para partida de Senapred

senapred
Nacional

Núñez pide endurecer penas a casas de apuestas ilegales

paulina-nunez-620x413
Deportes

Sistema frontal suspende partido Universidad de Chile y Deportes Antofagasta

Sistema frontal suspende partido Universidad de Chile y Deportes Antofagasta
Nacional

SAG eleva alerta por influenza aviar en Perú

aviar

Noticias Destacadas