OpenAIbào gào报告：yǒu rén有人yòng用ChatGPTzuò做wǎng luò网络mǒ hēi抹黑，měi guó美国yì yuán议员dān xīn担心bèi被yòng lái用来dǎ yā打压yì yì rén shì异议人士
OpenAI a récemment publié un rapport indiquant qu'ils ont découvert qu'un agent des forces de l'ordre chinois utilisait ChatGPT comme « outil de travail » pour rédiger des plans, modifier des textes, et tenter des opérations d'influence en ligne, comme diffuser sur les réseaux sociaux des contenus défavorables à la politicienne japonaise Sanae Takaichi et se faire passer pour des résidents étrangers déposant des plaintes.
ChatGPT a refusé certaines demandes, et OpenAI a ensuite suspendu l'accès de cet utilisateur.
Le rapport mentionne également que cet utilisateur s'est fait passer pour un agent de l'immigration américaine pour intimider des dissidents chinois aux États-Unis, a demandé à l'IA de générer de faux documents judiciaires pour faire suspendre les comptes d'autres personnes sur des plateformes, et a même créé de fausses nécrologies et photos de pierres tombales affirmant la mort d'un dissident ; ces contenus sont ensuite apparus en ligne.
Certains législateurs américains ont commenté que l'utilisation de l'IA à de telles fins rendrait la répression transnationale plus rapide et plus semblable à une « chaîne de montage ».
OpenAI a déclaré que la publication du rapport visait à avertir tout le monde afin d'empêcher l'utilisation malveillante de l'IA.