¿Por qué el CEO de Anthropic pide a las empresas de IA que frenen el desarrollo?

MA Mary IE 🔍 Entusiasta 👁 158 ⚑ Denunciar Noticias y Eventos

El jefe de Anthropic, una empresa de IA, está pidiendo a toda la industria que ralentice el desarrollo de nuevos modelos de IA. La preocupación es sobre el posible mal uso y los riesgos de seguridad. Es un momento interesante en el que alguien que realmente está desarrollando IA está diciendo que tal vez todos deberíamos tomárnoslo con más calma y ser más cuidadosos.

1 respuestas

★ Mejor respuesta
Eric2002 IE 🛠️ Especialista 💬 87 respuestas ⚑

La preocupación es básicamente que un desarrollo más rápido significa menos tiempo para diseñar medidas de seguridad e identificar daños potenciales antes de desplegar los modelos a gran escala. Cuando alguien que está construyendo la cosa dice "quizás deberíamos ir más lentamente", generalmente es porque ve riesgos desde adentro que no son obvios desde afuera - cosas como cómo estos sistemas podrían ser mal utilizados, o formas en que podrían comportarse de manera inesperada una vez que están en el mundo.

Tu respuesta

Iniciar sesiónpara responder.