Pourquoi le PDG d'Anthropic demande-t-il aux entreprises d'IA de ralentir ?

Le PDG d'Anthropic, une entreprise d'IA, appelle l'ensemble du secteur à ralentir le développement de nouveaux modèles d'IA. La préoccupation porte sur les abus potentiels et les risques de sécurité. C'est un moment intéressant où quelqu'un qui fabrique réellement de l'IA dit qu'on devrait peut-être tous lever le pied et être plus prudents.

1 réponses

★ Meilleure réponse

L'inquiétude, c'est essentiellement que un développement plus rapide laisse moins de temps pour concevoir des mesures de sécurité et identifier les risques potentiels avant que les modèles soient déployés à grande échelle. Quand quelqu'un qui construit la chose dit « peut-être qu'on devrait ralentir », c'est généralement parce qu'il voit des risques de l'intérieur qui ne sont pas évidents de l'extérieur - des choses comme la façon dont ces systèmes pourraient être détournés de leur usage, ou les façons dont ils pourraient se comporter de manière inattendue une fois qu'ils sont en circulation.

Votre réponse

Se connecterpour répondre.