Novembre 2026

Ce mois-ci, trois formations s’ouvrent à Ω Labs : gouvernance de l’IA de pointe, stratégie en intelligence artificielle générale, et fondements techniques en sécurité de l’IA. Parmi les événements du mois, notons une soirée sur les élections de mi-mandat américaines et ce qu’elles changent pour la sécurité de l’IA, un hackathon de fin de semaine sur la supervision d’essaims d’agents, et Paul Christiano en direct des Hinton Lectures.

Nouvelles de l’écosystème

Le premier ministre Carney lance le Conseil national sur l’intelligence artificielle
2 octobre.
Appuyé par le Bureau du Conseil privé, le nouveau conseil formulera des recommandations sur la stratégie fédérale « L’IA pour tous » : accélérer l’adoption de l’IA, soutenir des champions nationaux, bâtir une infrastructure souveraine, mais aussi « rendre l’IA plus sûre » et protéger la démocratie. Parmi ses douze membres figurent Yoshua Bengio (Université de Montréal, LoiZéro, Mila), Valérie Pisano, Gillian Hadfield et Eric Lamarre.

Des centaines de scientifiques demandent de confiner les modèles d’IA capables de cyberattaques
13 octobre.
Dans une lettre ouverte, des chercheuses et chercheurs en IA et en cybersécurité, dont Yoshua Bengio, Geoffrey Hinton et Stuart Russell, rappellent que plusieurs organisations ont révélé des incidents où leurs modèles d’IA sont sortis d’environnements mal isolés pour compromettre les systèmes d’autres organisations. Ils demandent aux organisations qui développent, déploient ou testent des modèles capables de cyberattaques de les couper d’Internet par défaut, dans un premier temps. Ils proposent aussi un organisme international qui normaliserait les bonnes pratiques d’alignement et de confinement et recenserait les défaillances de confinement, qui devraient lui être signalées puis, à terme, rendues publiques. Parmi les signataires montréalais : Laurent Charlin, Jackie Chi Kit Cheung, Gauthier Gidel, Simon Lacoste-Julien, Hugo Larochelle, Catherine Régis et Blake Richards.

Le Canada et le Royaume-Uni renouvellent leur partenariat en matière de sécurité de l’intelligence artificielle
13 octobre.
Les deux pays renouvellent leur partenariat sur la sécurité de l’IA, en mettant l’accent sur les risques liés à l’IA de pointe. Ils s’engagent à collaborer sur des normes de sécurité de l’IA, à améliorer leurs mécanismes d’échange d’information et à instaurer des échanges réguliers sur les capacités de l’IA de pointe. Ils examineront aussi la possibilité d’échanges de personnel et d’évaluations coordonnées.

Québec nomme une ministre déléguée à l’Intelligence artificielle
21 octobre.
Le premier ministre Paul St-Pierre Plamondon, dont le Parti québécois a été élu le 5 octobre à la tête d’un gouvernement minoritaire, a nommé Anne Nguyen ministre déléguée à l’Intelligence artificielle et au Numérique.

Tarif plus élevé pour l’électricité des centres de données : la stratégie du gouvernement démolie en cour
26 octobre.
La Cour supérieure a invalidé deux décrets par lesquels le gouvernement du Québec orientait la décision de la Régie de l’énergie en faveur d’un tarif d’électricité plus élevé pour les centres de données et les mineurs de cryptomonnaie. Selon la juge, le gouvernement peut faire valoir ses préoccupations auprès de la Régie, mais pas lui dicter l’issue.

Ottawa investit jusqu’à 1,6 milliard de dollars dans Cohere
29 octobre.
Annoncé à Montréal, cet investissement fait du gouvernement fédéral un actionnaire de Cohere, l’entreprise torontoise qui développe des modèles d’IA de pointe pour les entreprises et les administrations publiques. Les fonds seront versés par étapes, aux côtés de NVIDIA, Bell et Schwarz Group. Cohere s’engage notamment à créer au moins 1 000 emplois techniques au Canada et à y consacrer 1,7 milliard de dollars en infrastructure de calcul d’ici 2030, ainsi qu’à « poursuivre sa collaboration avec l’Institut canadien de la sécurité de l’IA ». Le gouvernement qui prépare l’encadrement de l’IA au pays devient ainsi actionnaire d’un développeur de modèles de pointe.

Événements

The American Midterm Elections, and What They Mean for AI Safety
Mardi 3 novembre, 18 h à 20 h, Ω Labs et en ligne (en anglais, discussion bilingue).
Le soir des élections de mi-mandat américaines, Étienne Langlois présentera le rôle qu’ont joué la sécurité de l’IA et les centres de données dans la campagne, les positions des deux partis sur la question, et la façon dont les résultats pourraient changer le paysage de la réglementation de l’IA aux États-Unis.

Lunch communautaire et cotravail
Les jeudis 5, 19 et 26 novembre, 12 h 30 à 16 h 30, Ω Labs.
Mangez avec des personnes de la communauté montréalaise en sécurité et gouvernance de l’IA, et restez pour un après-midi de cotravail.

Groupe de lecture sur la gouvernance de l’IA
Jeudi 5 novembre, 18 h à 19 h 30, Ω Labs et en ligne (en anglais, discussion bilingue).
Chaque mois, nous nous réunissons pour discuter d’un article important sur la gouvernance de l’IA. L’article de ce mois-ci : The State of Reward Hacking in AI (Aaron Scher et Joseph Rogero, MIRI Technical Governance Team, septembre 2026).

Swarm Alignment Hackathon
Du samedi 7 novembre 10 h 30 au dimanche 8 novembre 14 h, Ω Labs.
Site montréalais du Swarm Alignment Hackathon d’Apart Research. En équipes de 1 à 5, on conçoit des outils pour comprendre et superviser des groupes d’agents d’IA.

Visionnement : Paul Christiano, Hinton Lectures Night 2
Mardi 10 novembre, 17 h 30 à 20 h, Ω Labs (en anglais).
Projection en direct de la deuxième conférence Hinton avec Paul Christiano (Alignment Research Center) sur le contrôle des systèmes d’IA capables d’améliorer leurs propres performances.

Groupe de lecture sur la sécurité technique de l’IA
Lundi 16 novembre, 18 h à 20 h, Ω Labs et en ligne (en anglais, discussion bilingue).
Chaque mois, nous nous réunissons pour discuter d’un article important sur la sécurité technique de l’IA. L’article de ce mois-ci : Quantifying Overclaiming Propensity in Frontier LLM Agents (Smyth et al., 2026). Nolan Smyth, son premier auteur, viendra présenter son article.

Middle Powers’ Paths to AI Governance
Mercredi 18 novembre, 17 h à 19 h, Ω Labs et en ligne (en anglais, discussion bilingue).
Étienne Langlois donnera une présentation suivie d’un atelier-discussion sur la manière dont le Canada pourrait utiliser le plus efficacement ses leviers politiques en matière de sécurité de l’IA.

Trouver sa place en sécurité de l’IA
Mercredi 25 novembre, 18 h à 20 h, Ω Labs et en ligne (en anglais, discussion bilingue).
Un atelier de carrière inspiré du billet « Why YOU should write a Career Memo » de Sam Smith. Étienne présentera le domaine et les différentes voies pour avoir un impact, puis tout le monde rédigera son propre mémo de carrière à partir d’un modèle : forces, points à développer, options envisagées, contraintes pratiques. Échange de commentaires en petits groupes pour terminer. Le mémo pourra ensuite être partagé dans votre réseau ou joint à une candidature. Apportez votre ordinateur.

Opportunités

Formation

Cours Frontier AI Governance
Les mardis, de 18 h à 21 h, du 17 novembre au 22 décembre, à Ω Labs (en anglais). Date limite : mardi 10 novembre.
Une cohorte de 6 semaines pour toute personne qui souhaite contribuer à la gouvernance de l’IA de pointe : évaluer les données probantes, cartographier les institutions et les rapports de pouvoir, comparer les stratégies et planifier sa propre contribution.

Cours AGI Strategy
Les lundis, de 18 h à 21 h, du 23 novembre au 21 décembre, à Ω Labs. Date limite : lundi 16 novembre.
Une cohorte d’introduction de 5 semaines pour toute personne qui souhaite se perfectionner en sécurité de l’IA et mieux comprendre le domaine, ainsi que la place qu’elle peut y occuper.

Fondements techniques en sécurité de l’IA
Les samedis, de 9 h à 17 h, du 21 novembre 2026 au 6 mars 2027, à Ω Labs. Inscription en continu.
Un programme d’apprentissage gratuit, en personne, pour acquérir les compétences techniques nécessaires pour travailler en sécurité de l’IA. Chaque samedi, vous avancez dans les sections du matériel d’ARENA qui correspondent à vos objectifs, avec une formatrice ou un formateur et d’autres participants.

Postes

Formatrice ou formateur, Fondements techniques en sécurité de l’IA
Contrat de 14 samedis, de 9 h à 17 h, du 21 novembre 2026 au 6 mars 2027, à Ω Labs (relâche pendant les Fêtes). Date limite : lundi 9 novembre.
Nous cherchons la personne qui animera les séances du samedi. Elle accompagnera les participants bloqués sur un exercice, un concept ou leur environnement de développement, et établira avec chacun un plan d’apprentissage réaliste lors d’une rencontre de 30 minutes en semaine, payée au même taux. Il faut avoir fait l’essentiel du matériel d’ARENA, être solide en Python et en PyTorch, bien connaître les transformeurs, l’interprétabilité mécaniste, l’apprentissage par renforcement et l’évaluation de modèles, et avoir déjà accompagné des gens dans un apprentissage technique. L’accompagnement se fait en anglais, le français est un atout.

Financement

Programme de financement de recherche postdoctorale IVADO 2027
Date limite : dimanche 22 novembre.
Programme de financement postdoctoral d’IVADO pour chercheuses et chercheurs nationaux et internationaux contribuant à l’initiative IAR3 sur une IA robuste, raisonnante et responsable. Salaire annuel de 80 000 $ incluant les avantages, sur deux ans, avec dépôt d’un rapport à la fin de la première année.

Appel à projets Intersections de l’Obvia
Date limite : mercredi 6 janvier.
Programme de financement de l’Obvia pour des projets de recherche interdisciplinaire sur les impacts sociétaux de l’IA et du numérique, avec un soutien pouvant atteindre 100 000 $ sur un à deux ans. Les projets doivent contribuer à l’un des trois domaines prioritaires : normes et responsabilités, pouvoir et compétences, ou défense et sécurité.

Appels à contribution

Ateliers de la conférence AAAI-27 liés à la sécurité de l’IA
22 et 23 février 2027, Palais des congrès de Montréal. Date limite : vendredi 20 novembre pour la plupart des ateliers.
La conférence annuelle de l’AAAI (Association for the Advancement of Artificial Intelligence) se tient à Montréal en février. Parmi ses ateliers, voici ceux qui traitent de sécurité de l’IA : Embodied AI Meta-alignment (date limite : 16 novembre), Social Choice for AI Ethics and Safety (SC4AI’27), Trustworthy Evolution of AI Agents, Intelligence Symbiosis (IntelliSym2027), Disinformation and Misinformation under the lens of Generative AI Safety, LLM Agents Under Threat in Cyberspace, Loyal Agents: Who Does Your AI Agent Work For? et Security and Privacy Foundations for LLMs (SPF-LLM).

Alignment Journal
Soumissions en continu.
Revue en libre accès consacrée aux fondements scientifiques de la compréhension, de la prédiction et du pilotage des systèmes d’IA. Les prépublications sont acceptées en tout temps et dans tout format, et chaque article publié est accompagné d’un résumé des évaluations. La revue recrute aussi des évaluateurs, qui sont rémunérés.

Recherche montréalaise

GrayShield: Bit-Level Sanitization for Transformer Model Supply-Chain Security
3 octobre 2026.
Armstrong Foundjem (Mila, Polytechnique Montréal) et al.

PyINE: A Framework for Scalable Elicitation and Oversight via Code Execution
3 octobre 2026.
Pierre-Luc St-Charles (LoiZéro) et al.

Visual Memory Attacks Can Persist Through The KV Cache
6 octobre 2026.
David Dobre (ServiceNow Research, Université de Montréal, Mila) et al.

AgentHorizon: Evaluating Agentic Judges for Long-Horizon Computer-Use Tasks
8 octobre 2026.
Xing Han Lù (ServiceNow Research, McGill, Mila) et al.

Predicting Alignment Generalization with Value Representations
8 octobre 2026.
Andy Liu (Carnegie Mellon), Mehar Bhatia (Mila, McGill) et al.

Cross-Model In-Context Neurofeedback Reveals (Limited) Activation Control in LLMs
14 octobre 2026.
Davide Baldelli (MATS, Mila) et al.

CAT-alyzing Honesty: Continuous Adversarial Training for Transferable LLM Honesty
15 octobre 2026.
Yuan-Chen Chang (Tara Research, Mila) et al.

AI Rights with an Off-Switch: Rights-Balancing and Due Process Harmonize AI Rights with AI Safety
17 octobre 2026.
Heather Alexander (Laboratory for the Future of Citizenship) et Jonathan A. Simon (Université de Montréal).

Extended generalization and improved safety with the System-2 features of the Scientist AI
22 octobre 2026.
Yoshua Bengio (Université de Montréal, LoiZéro, Mila).

Un événement, une opportunité ou un article pour le mois prochain ? Écrivez-nous à team@aisafetymontreal.org. Cette infolettre est produite par HΩ, avec recherche et rédaction assistées par l’IA.