Aller au contenu

Trois programmes à Ω Labs cet automne : Frontier AI Governance (candidatures jusqu’au 10 nov.), AGI Strategy (candidatures jusqu’au 16 nov.) et Fondements techniques en sécurité de l’IA (inscription en continu) →

Trois programmes à Ω Labs · Voir les programmes →

AI Safety Montréal
Rejoindre EN FR

Cours Frontier AI Governance

Six mardis soir pour développer le jugement nécessaire pour travailler sur la gouvernance de l’IA de pointe. Ce cours suit le programme Frontier AI Governance conçu par BlueDot Impact ; nous nous réunissons en personne à Montréal.

Postuler d’ici le 10 novembre →

Vous hésitez ? Posez quand même votre candidature.

Quand
Les mardis, de 18 h à 21 h, du 17 novembre au 22 décembre 2026
Où
Ω Labs, 3813, rue Saint-Denis, Montréal
Engagement
Environ 6 à 7 heures par semaine (4 à 5 heures de lectures et d’exercices à la maison, 3 heures en personne)
Cohorte
12 personnes
Langue
Anglais (lectures et séances) ; les questions en français sont bienvenues
Animation
Orphée Lummis et Étienne Langlois
Coût
Gratuit
Candidatures jusqu’au
10 novembre, 23 h 59 (HNE)

Pour qui

  • Les personnes au profil technique (ingénierie, recherche, entrepreneuriat) qui veulent voir comment leurs compétences comptent pour les politiques publiques et les institutions.
  • Les personnes issues des politiques publiques, du droit, de la sécurité, de l’économie, de la diplomatie ou du journalisme qui veulent un jugement éclairé sur l’IA de pointe.
  • Les personnes qui envisagent un travail, une recherche ou des études en gouvernance de l’IA et veulent mettre cet intérêt à l’épreuve.

Aucun cours préalable ni diplôme technique n’est requis. Une certaine familiarité avec les capacités des systèmes d’IA actuels aide.

Les six séances

Chaque semaine : les lectures principales et l’exercice de l’unité avant le mardi, puis trois heures de discussion à Ω Labs.

17 nov. Unité 1 : Où en est la frontière

Lire les données sur l’IA de pointe : fiches système, évaluations indépendantes, tendances des capacités, et une étude de cas de 2026, l’incident OpenAI / Hugging Face. Exercice : une note de synthèse pour une personne qui décide.

Lectures principales :

  • Ajeya Cotra, “Takeoff speeds rule everything around me” (2026)
  • Allan Dafoe, “AI Governance: Overview and Theoretical Lenses” (2022)
  • Ji, Venkatram and Batalis, “AI Safety Evaluations: An Explainer” (2025)
  • METR, “Task-Completion Time Horizons of Frontier AI Models” (2026)
  • Helen Toner, “Taking Jaggedness Seriously” (2025)
  • Greenblatt, Cotra and Wijk on the Hugging Face incident (2026)
  • OpenAI, GPT-6 Astra System Card (2026)

24 nov. Unité 2 : Pouvoir, fenêtres et dépendances

Qui peut agir sur l’IA de pointe (entreprises, gouvernements, instances internationales), de quoi chacun dépend, et où s’ouvrent des lacunes et des fenêtres d’action. Exercice : cartographier les acteurs.

Lectures principales :

  • International AI Safety Report 2026, extended summary for policymakers
  • METR, “Common Elements of Frontier AI Safety Policies” (2026)
  • Anton Leicht, “The Next Three Phases of AI Politics” (2026)
  • Matt Sheehan and Scott Singer, “How China Views AI Risks and What to do About Them” (2025)
  • Arnold and Llerena, “When Reporting an AI Security Incident Is Not Mandatory” (2026)

1er déc. Unité 3 : Le paysage des propositions

Les stratégies concurrentes pour gouverner l’IA de pointe, des accords internationaux et de la gouvernance du calcul à la gouvernance privée et aux audits, et le débat « Plan A » contre « Plan S ». Exercice : défendre au mieux une position avec laquelle vous n’êtes pas d’accord.

Lectures principales :

  • Christoph Winter and Charlie Bullock, “Radical Optionality” (2026)
  • Delaney, Kostylew, Guest and Wildeford, “Strategic Visions in AI Governance” (2026)
  • Narayanan, Ji, Venkatram and Luong, “AI Governance at the Frontier: Unpacking Foundational Assumptions” (2025)
  • Larsen et al., “AI 2040: Plan A” and “Plan S” (2026)
  • Scher et al., “An International Agreement to Prevent the Premature Creation of Artificial Superintelligence” (2025)

8 déc. Unité 4 : Gouverner sous accélération

Ce qui change si l’IA accélère la recherche en IA : course entre entreprises et États, et risque de concentration du pouvoir. Exercice : éprouver une proposition face à des progrès rapides.

Lectures principales :

  • MacAskill and Moorhouse, “Preparing for the Intelligence Explosion” (2025)
  • Hendrycks, Schmidt and Wang, “Superintelligence Strategy” (2025)
  • CSET, “When AI Builds AI” (2026)
  • Michael Nielsen, “ASI existential risk: reconsidering alignment as a goal” (2025)
  • Richard Ngo, “Distributed vs centralized agents” (2026)

15 déc. Unité 5 : Questions controversées

Le groupe choisit un débat : que faire des modèles à poids ouverts à mesure qu’ils gagnent en capacités, ou faut-il ralentir le développement de pointe, quand et par qui. Rédiger une position et la défendre.

Lectures principales :

  • Kapoor, Bommasani et al., “On the Societal Impact of Open Foundation Models” (2024)
  • Ryan Greenblatt, “When is it important that open-weight models aren’t released?” (2025)
  • Joe Carlsmith, “On Restraining AI Development for the Sake of Safety” (2026)
  • Anthropic, Responsible Scaling Policy v3.4 (2026)
  • Nora Belrose, “AI Pause Will Likely Backfire” (2023)

22 déc. Unité 6 : Trouver son levier

Faire le point sur ses compétences et ses options, recevoir des retours sur une action à 30 jours et un plan à six mois, et découvrir bourses et postes (GovAI, Horizon, IAPS, Talos).

Lectures principales :

  • 80,000 Hours, “The US AI policy landscape: where to work to have the biggest impact” (2025)
  • Jordan Schneider, “Policy: An Early Career Guide” (2025)
  • Horizon Institute for Public Service, “Emerging Policy Careers: AI Policy” (2025)

Chaque unité propose aussi des lectures facultatives. Chaque titre d’unité renvoie à la page de BlueDot ; un compte BlueDot gratuit donne accès aux guides de lecture complets.

Sélection

Les candidatures ferment le 10 novembre. Nous lisons chaque candidature et répondons à tout le monde d’ici le 13 novembre ; les personnes retenues confirment leur place. Nous cherchons des personnes qui feront les lectures, viendront chaque semaine et agiront à partir de ce qu’elles apprennent.

FAQ

Faut-il un cours préalable ou un profil technique ?
Non.
Est-ce un cours d’éthique de l’IA ou de conformité en entreprise ?
Non. Le cours porte sur l’IA de pointe : les choix de politiques, de coordination et d’institutions qui façonnent la conception et le déploiement des systèmes les plus capables.
Pourquoi en anglais ?
Les lectures sont en anglais. Vous pouvez poser vos questions et discuter en français.
Puis-je manquer une séance ?
Prévenez-nous à l’avance. Le cours fonctionne mieux quand tout le monde vient les six semaines.
Quoi apporter ?
Un ordinateur portable.

Programme : le cours Frontier AI Governance de BlueDot Impact (mis à jour en septembre 2026), utilisé selon les lignes directrices de BlueDot pour les cohortes indépendantes. Cette cohorte est celle d’AI Safety Montréal, pas une cohorte officielle de BlueDot. Les lectures appartiennent à leurs auteurs.