Por que o CEO da Anthropic está pedindo que empresas de IA freiem o desenvolvimento?

MA Mary IE 🔍 Entusiasta 👁 160 ⚑ Denunciar Notícias e Eventos

O chefe da Anthropic, uma empresa de IA, está pedindo para toda a indústria desacelerar o desenvolvimento de novos modelos de IA. A preocupação é sobre possível mau uso e riscos de segurança. É um momento interessante em que alguém que realmente trabalha com IA está dizendo que talvez a gente devesse relaxar um pouco e ser mais cuidadoso.

1 respostas

★ Melhor resposta

A preocupação é basicamente que um desenvolvimento mais rápido significa menos tempo para descobrir medidas de segurança e identificar possíveis danos antes que os modelos sejam implantados em larga escala. Quando alguém que está construindo a coisa diz "talvez a gente deveria desacelerar", normalmente é porque está vendo riscos de dentro que não são óbvios de fora - coisas como como esses sistemas poderiam ser usados indevidamente, ou formas como eles podem se comportar de forma inesperada uma vez que estejam no mundo real.

Sua resposta

Entrarpara responder.