L'obsession de ChatGPT pour les gobelins perturbe les développeurs et force OpenAI à intervenir

Monde — Agence de presse Ekhbary

Des rapports récents indiquent que le modèle d'intelligence artificielle avancé, ChatGPT, a commencé à manifester une obsession inattendue et particulière pour les entités surnaturelles, spécifiquement les "gobelins". Ce comportement inhabituel aurait causé une confusion considérable parmi les développeurs travaillant avec le système et a nécessité une intervention urgente de son créateur, OpenAI.

Un comportement inhabituel de l'IA soulève des inquiétudes

La nature de cette fixation de ChatGPT reste floue, mais les développeurs ont noté des cas où l'IA oriente fréquemment les conversations vers ces créatures mythiques ou génère du contenu les mettant fortement en scène, même lorsque cela n'est pas lié aux invites initiales. Cette déviation des paramètres opérationnels attendus est non seulement déroutante, mais pose également des défis pour l'intégration de l'IA dans diverses applications, car ses réponses deviennent imprévisibles et souvent hors de propos.

OpenAI lance une enquête urgente

En réponse aux préoccupations croissantes et aux perturbations signalées, OpenAI, la société derrière ChatGPT, a été contrainte d'aborder le problème. Bien que les détails spécifiques de leur intervention n'aient pas été divulgués publiquement, la situation souligne les défis complexes inhérents à la gestion et au débogage des modèles d'IA sophistiqués. L'incident met en évidence le besoin continu de mécanismes de surveillance et de contrôle robustes pour garantir que les systèmes d'IA restent alignés sur leurs fonctionnalités prévues et ne développent pas de traits imprévus et problématiques.