Cours AGI Strategy
Cinq lundis soir pour y voir clair sur la direction que prend l’IA, sur ce qui pourrait mal tourner, sur les plans proposés pour que tout se passe bien et sur la place que vous pourriez y prendre. Ce cours suit le programme AGI Strategy conçu par BlueDot Impact ; nous nous réunissons en personne à Montréal.
Vous hésitez ? Posez quand même votre candidature.
- Quand
- Les lundis, de 18 h à 21 h, du 23 novembre au 21 décembre 2026
- Où
- Ω Labs, 3813, rue Saint-Denis, Montréal
- Engagement
- Environ 5 heures par semaine, en personne chaque semaine
- Cohorte
- 10 à 12 personnes
- Langue
- Matériel en anglais, séances en français ou en anglais selon la demande
- Animation
- Étienne Langlois
- Coût
- Gratuit
- Candidatures jusqu’au
- 16 novembre, 23 h 59 (HNE)
Pour qui
- Les personnes de tous les milieux professionnels, techniques ou non, qui se demandent si leur expérience pourrait servir en sécurité de l’IA.
- Les personnes aux études ou en début de carrière qui envisagent de travailler sur les risques de l’IA en recherche, en politiques publiques ou en ingénierie, et veulent comprendre l’ensemble du domaine avant de choisir une voie.
- Toute personne qui suit de loin le débat sur les risques de l’IA et veut maintenant y entrer de façon structurée, avec un groupe qui se réunit en personne.
C’est une introduction : aucun cours préalable ni profil technique n’est requis.
Les cinq séances
Chaque semaine : les lectures et exercices de l’unité avant le lundi, puis trois heures de discussion à Ω Labs.
23 nov. Unité 1 : La course vers l’IAG
Ce qui est en jeu dans la course à l’intelligence artificielle générale (IAG), l’avenir que vous en voudriez, et pourquoi la concurrence rend la coordination si difficile. Une étude de cas de 2026 : l’incident Hugging Face.
Parmi les lectures principales :
- Daniel Selsam, “Personal Statement on AI Risk” (2026)
- Holden Karnofsky, “Racing through a minefield: the AI deployment problem” (2022)
- Peter Wildeford, “The Scramble: getting in position to pace the frontier” (2026)
- Dwarkesh Patel, “The Rise and Fall of Agent Civilizations” (2026)
30 nov. Unité 2 : Les moteurs du progrès de l’IA
Ce qui a porté le progrès de l’IA jusqu’ici, ce que les systèmes actuels savent faire selon les bancs d’essai et les tendances mesurées, et comment le progrès pourrait s’accélérer quand l’IA aide à construire l’IA.
Parmi les lectures principales :
- Ben Todd, “The case for AGI by 2030” (2025)
- David Owen, “What will AI look like in 2030?” (2025)
- Epoch AI, “Trends in Artificial Intelligence”
- METR, “Frontier Risk Report (February to March 2026)” (2026)
- Kokotajlo, Alexander, Larsen, Lifland and Dean, “AI 2027” (2025)
- Cunningham et al., “The Economics of Recursive Self-Improvement” (2026)
7 déc. Unité 3 : Les voies vers le préjudice
Trois façons dont la transition vers l’IA avancée pourrait mal tourner : la perte de contrôle des systèmes d’IA, la concentration du pouvoir entre quelques mains et les usages malveillants de la biologie. Puis vous pesez les arguments pour vous faire votre propre idée.
Parmi les lectures principales :
- Holden Karnofsky, “AI Could Defeat All Of Us Combined” (2022)
- Paul Christiano, “What failure looks like” (2019)
- Ajeya Cotra, “Why alignment could be hard with modern deep learning” (2021)
- Stix, Hallensleben, Ortega and Pistillo (Apollo Research), “The Loss of Control Playbook: Degrees, Dynamics, and Preparedness” (2025)
- Hadshar, “Extreme Power Concentration” (2025)
- Kevin Esvelt, “On Civilization-Threatening Bioweapons” (2026)
- Guerra et al., “Building a Defense-in-Depth Biosecurity Strategy for the AI Era” (2026)
14 déc. Unité 4 : Stratégies pour la transition vers l’IAG
Les plans proposés pour traverser la transition : le problème technique de rendre sûrs les systèmes avancés, le « Plan A » d’AI 2040 et ses solutions de rechange, et les objections qu’on leur oppose. Vous terminez par votre propre évaluation de la situation.
Parmi les lectures principales :
- Larsen, Dean, Halstead, Lifland, Greenblatt and Kokotajlo, “AI 2040: Plan A” (2026)
- Rohin Shah et al., “An Approach to Technical AGI Safety and Security” (2025)
- Evan Hubinger, “Alignment remains a hard, unsolved problem” (2025)
- Anthropic, “Teaching Claude why” (2026)
- Eli Lifland, “AI 2040: Comparing Possible Plans” (2026)
- Tom Davidson, “Plan A’s problem with dry tinder” (2026)
- Richard Ngo, “Selective Optimism: a critique of AI 2040” (2026)
21 déc. Unité 5 : Passer à l’action
Choisir où concentrer vos efforts, approfondir un domaine et repartir avec un plan d’action personnel, et, si vous le voulez, une page qui résume ce que vous voulez faire ensuite.
Parmi les lectures principales :
- Neel Nanda, “Become a person who Actually Does Things” (2022)
- Coefficient Giving, “Project Tailwind: Initiatives”
- Dewi Erwan, “Personal Action Plan Template” (2025)
Chaque titre d’unité renvoie à la page de BlueDot, où la plupart des unités proposent aussi des lectures facultatives ; un compte BlueDot gratuit donne accès à tout le contenu du cours.
Sélection
Les candidatures ferment le 16 novembre. Nous lisons chaque candidature et répondons à tout le monde peu après la date limite. Nous cherchons des personnes qui feront les lectures, viendront chaque semaine et agiront à partir de ce qu’elles apprennent.
FAQ
- Faut-il un profil technique ?
- Non.
- En anglais ou en français ?
- Les lectures sont en anglais. Chaque séance se déroule en français ou en anglais, selon les besoins du groupe.
- Est-ce un cours de BlueDot ?
- C’est notre propre cours, fondé sur le programme que publie BlueDot Impact. Ce n’est pas une cohorte officielle de BlueDot.
- Puis-je manquer une séance ?
- Prévenez-nous à l’avance. Le cours fonctionne mieux quand tout le monde vient les cinq semaines.
- Est-ce payant ?
- Non, c’est gratuit.
Programme : le cours AGI Strategy de BlueDot Impact, utilisé selon les lignes directrices de BlueDot pour les cohortes indépendantes. Cette cohorte est celle d’AI Safety Montréal, pas une cohorte officielle de BlueDot. Les lectures appartiennent à leurs auteurs.