Un institut voué à la sécurité de l’IA examine les protocoles d’OpenAI

OTTAWA — L’institut canadien de la sécurité en matière d’intelligence artificielle (IA) a désormais accès à l’ensemble des «protocoles» d’OpenAI, a annoncé le ministre de l’Intelligence artificielle et de l’Innovation numérique, Evan Solomon.

M. Solomon a ajouté que l’Institut canadien de la sécurité de l’IA travaillait sur un rapport. Il a promis d’obtenir des résultats.

M. Solomon a rencontré le PDG d’OpenAI en mars après qu’on eut appris que la responsable de la tuerie de Tumbler Ridge, en Colombie-Britannique, s’était fait interdire précédemment l’utilisation de l’agent conversationnel ChatGPT par OpenAI en raison d’interactions inquiétantes, sans que l’entreprise n’ait alerté les autorités compétentes.

La tireuse a contourné l’interdiction de ChatGPT en créant un deuxième compte.

Jesse Van Rootselaar a tué par balle huit personnes à Tumbler Ridge le 10 février, dont six enfants, avant de se suicider.

Le ministre affirme avoir informé les représentants de l’entreprise que toutes les options étaient sur la table et qu’ils devaient protéger les enfants, sinon la sanction sera sévère.

Le gouvernement a déclaré que M. Solomon demanderait également à l’Institut canadien de la sécurité de l’IA d’examiner le modèle de l’entreprise et de fournir des conseils techniques à son cabinet.

À la suite de sa rencontre avec les responsables d’OpenAI, M. Solomon a annoncé qu’ils s’étaient engagés à prendre un certain nombre de mesures — notamment fournir un rapport décrivant les nouveaux systèmes que l’entreprise développe pour identifier les délinquants à haut risque et les contrevenants aux règles, établir un point de contact direct avec la Gendarmerie royale du Canada et mettre en œuvre des protocoles de sécurité pour orienter les personnes «en détresse» vers les services locaux appropriés.

Le ministre a fait ces commentaires, vendredi, au congrès du Parti libéral du Canada à Montréal, alors qu’il était question du projet de loi promis par le gouvernement sur les préjudices en ligne, sans préciser si cette mesure législative couvrirait les «agents conversationnels» fondés sur l’IA.