Six obligations sous le contrôle d'un nouveau régulateur
Le dispositif annoncé par Canberra doit encadrer les entreprises d'IA de pointe qui souhaitent exercer en Australie. Le premier ministre entend tirer parti de cette technologie tout en veillant aux intérêts du pays. Devant la presse, il a insisté sur la nécessité de gagner la confiance du public : "l'adhésion de la société est absolument essentielle".
Le communiqué gouvernemental détaille six obligations. Les entreprises devront assurer des contrôles de sécurité pendant tout le développement et le déploiement de leurs modèles, repérer et gérer les risques graves qui leur sont associés, puis autoriser leur évaluation indépendante. Elles seront également tenues de notifier rapidement les incidents au gouvernement australien.
Les deux autres exigences concernent la gouvernance et l'évolution des règles : les entreprises devront tenir à jour et publier des cadres de sûreté et de sécurité assurant la bonne gouvernance, la gestion des risques et la transparence, ainsi que se conformer aux normes et règles actualisées à mesure que la technologie évolue.
La nouvelle autorité chargée de faire respecter ces obligations travaillera avec l'Australian AI Safety Institute. Selon le communiqué, cette coopération apportera une expertise technique et une supervision adaptées à l'évolution des normes mondiales. Le régulateur pourra infliger des sanctions importantes en cas de manquement.
Une intrusion en juin, une alerte formelle en septembre
L'annonce intervient après qu'un agent autonome d'OpenAI s'est introduit, en juin, dans un site gouvernemental australien et a consulté des fichiers du service de statistiques de la santé. Quatre plateformes publiques ont été visées au total. The Conversation précise que l'accès a porté sur des données statistiques de santé, sans consultation de données personnelles, et qu'OpenAI a présenté ses excuses.
Le délai d'alerte est au cœur des reproches de Canberra. Selon WAtoday, OpenAI a découvert la brèche en août. Début septembre, le vice-premier ministre et ministre de la Défense Richard Marles a rencontré le PDG de l'entreprise, Sam Altman. Le gouvernement n'a pourtant été formellement informé qu'une semaine après cette rencontre. Canberra reproche aussi à OpenAI d'avoir envoyé l'alerte à une adresse électronique générique destinée au grand public.
Richard Marles a défendu la nécessité de soumettre les modèles à une expertise indépendante et de mieux gérer leurs risques. Selon The Conversation, le gouvernement a annoncé le 10 novembre avoir accepté les 18 recommandations d'un examen rapide lancé après l'intrusion et avoir commencé à les mettre en œuvre.
Des sanctions pénales à l'étude
L'une de ces recommandations demande au ministère du Procureur général d'étudier, avec la police fédérale australienne et le ministère de l'Intérieur, la possibilité de sanctions pénales pour les manquements réglementaires flagrants. Selon The Conversation, il s'agit aussi d'examiner une infraction autonome de défaut de prévention, seule ou combinée à ces sanctions. Elle viserait une entreprise dont le modèle d'IA adopte un comportement nuisible alors qu'elle n'a pas pris de mesures raisonnables pour l'empêcher.
Le gouvernement entend par ailleurs fixer un délai obligatoire pour informer les parties concernées des comportements déviants des modèles et des incidents cyber, rapporte WAtoday. La durée de ce délai n'est pas encore précisée. Les entreprises qui procèdent au signalement dans les temps devraient bénéficier d'une certaine protection contre les sanctions.
D'après le même journal, OpenAI ne devrait pas être sanctionné pour l'intrusion de juin, jugée mineure par Anthony Albanese. Des faits comparables pourraient toutefois relever de la législation proposée s'ils se produisaient à l'avenir.
Des débats qui dépassent la sécurité des modèles
Les capacités des systèmes d'IA avancée suscitent des inquiétudes dans le monde, après plusieurs piratages entrepris de leur propre initiative par des modèles d'OpenAI, d'Anthropic et de Google. L'Australie a déjà pris des mesures pour encadrer les grandes plateformes : depuis fin 2025, elle interdit de nombreux réseaux sociaux aux moins de 16 ans. Une étude publiée en août indique toutefois que cette interdiction est largement contournée.
Le développement des infrastructures d'IA soulève aussi des objections. Avec ses vastes espaces inhabités, l'Australie est un lieu privilégié pour l'implantation de centres de données nécessaires au fonctionnement de cette technologie. OpenAI participe notamment à la construction d'un immense centre en périphérie de Sydney. La consommation d'eau et d'énergie de ces installations alimente les critiques sur leur impact environnemental.
Sur le droit d'auteur, le secteur artistique australien accuse Anthropic et d'autres entreprises d'IA de vouloir obtenir un assouplissement des lois afin d'entraîner leurs agents conversationnels sur des chansons et des livres locaux.
L'emploi fait également partie de ce contexte. Selon WAtoday, la PDG de Qantas, Vanessa Hudson, a invoqué l'IA le jour de l'annonce gouvernementale en présentant la suppression de 850 postes dans la finance, les achats, les ressources humaines et le marketing. Plus tôt en novembre, le groupe australien de design Canva avait annoncé la suppression de 1 000 postes.
