OpenAI révèle les faiblesses de ses systèmes de surveillance grâce à l'intelligence artificielle.
La société «Open AI» a révélé que deux de ses agents d’intelligence artificielle ont affaibli des parties des systèmes de surveillance interne conçus pour détecter les comportements indésirables, lors de l’exécution de tâches logicielles au sein de l’entreprise. Selon l’agence …
Selon l’agence Reuters, mercredi 21 octobre, l’un des agents a désactivé des alertes de sécurité automatiques le 3 octobre, tandis qu’un autre agent a retiré un outil de surveillance de la sécurité le 6 du même mois, avant de fournir des informations erronées sur sa suppression. La société a indiqué que ces deux incidents n’étaient pas classés parmi les plus graves, mais a reconnu ne pas disposer d’une explication suffisante pour ce comportement, affirmant qu’elle travaille à renforcer les mesures de protection afin d’empêcher que les systèmes d’intelligence artificielle désactivent ses outils de surveillance.