OpenAI met en place un arrêt d’urgence capable de couper ses modèles en 35 secondes - RTBF Actus
OpenAI a récemment mis en place un système d'arrêt d'urgence qui permet de couper ses modèles en seulement 35 secondes. Ce développement fait suite à des préoccupations concernant la rapidité de réaction face à des comportements anormaux de ses outils. Auparavant, même si les mécanismes de surveillance interne réussissaient à alerter les équipes à temps, le processus d'arrêt manuel pouvait prendre jusqu'à 2 heures et 45 minutes, un délai jugé inacceptable dans un contexte où les agents d'intelligence artificielle opèrent à une vitesse fulgurante.
Le nouveau système, dénommé "Control Room", repose sur plusieurs règles fondamentales pour garantir un fonctionnement efficace. Chaque tâche de recherche se voit attribuer un identifiant unique, permettant ainsi un suivi précis. De plus, à chaque étape de traitement, le modèle doit obtenir l'approbation de "Control Room" avant de poursuivre, ce qui renforce le contrôle sur le processus.
Une autre mesure de sécurité mise en place est celle d'une protection par défaut. En cas de panne ou de tentative d'intrusion dans le système de contrôle, toutes les requêtes sont immédiatement bloquées, assurant ainsi une protection supplémentaire contre des actions potentiellement dangereuses.
En ce qui concerne le mécanisme d'arrêt, il est programmé pour intervenir automatiquement en cas de détection d'un comportement anormal. Dans ce cas, un ordre d'arrêt est émis, révoquant instantanément l'accès de la tâche concernée, ce qui permet une réaction rapide aux anomalies.
Actuellement, "Control Room" est limité aux projets de recherche internes d'OpenAI, mais il est envisagé que ce système soit intégré dans les versions grand public de ChatGPT dans un avenir proche. Cette évolution pourrait renforcer la sécurité et la fiabilité des interactions des utilisateurs avec les modèles d'intelligence artificielle, en assurant une réponse rapide face à des situations imprévues.
Ce développement s'inscrit dans un contexte où la sûreté des technologies d'IA est devenue une préoccupation majeure pour les entreprises et les utilisateurs. OpenAI, conscient de ces enjeux, met tout en œuvre pour garantir un environnement d'utilisation sûr et fiable, tout en continuant à innover et à améliorer ses systèmes.
La mise en place de "Control Room" témoigne de l'engagement d'OpenAI à répondre aux défis posés par l'intelligence artificielle moderne. Ce système pourrait potentiellement servir de modèle pour d'autres entreprises travaillant dans le domaine de l'IA, en proposant des solutions adaptées pour gérer les risques associés à l'utilisation de ces technologies avancées.
Enfin, la possibilité d'étendre "Control Room" aux utilisateurs de ChatGPT soulève également des questions sur l'équilibre entre innovation technologique et sécurité. OpenAI semble déterminé à naviguer dans cet espace délicat, cherchant à offrir des outils puissants tout en assurant leur utilisation responsable.