Archives

Discussion de la section 2.1 du Rapport international sur la sûreté de l'IA (janvier 2025) sur les risques d'utilisation malveillante. Fait partie du réseau AIGS Canada.

Orpheus présente les idées centrales de « Towards Guaranteed Safe AI : A Framework for Ensuring Robust and Reliable AI Systems » (arxiv.org/abs/2405.06624), suivi d'une période de questions et d'une discussion libre.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Samuel Gélineau présente Parity Bot (gelisam.com/parity-bot) : démonstration qu'on peut vérifier formellement qu'un réseau de neurones respecte une propriété de sûreté pour toutes les entrées, en adaptant un algorithme d'analyse de plage du code classique aux poids d'un réseau.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Evan Lombardi présente les impacts des algorithmes des médias sociaux sur la santé mentale et comment l'IA les amplifie. Aborde les systèmes de recommandation, les dark patterns, les deepfakes et l'écosystème de mésinformation, en s'appuyant sur l'étude de Cambridge « Algorithms, Addiction, and Adolescent Mental Health ». Clôture avec une présentation du projet Unplug.

Discussion de l'Appel mondial pour des lignes rouges en IA (red-lines.ai), lancé à l'AGNU-80 par des lauréats du prix Nobel, d'anciens chefs d'État et des pionniers de l'IA dont Yoshua Bengio. L'initiative exhorte les gouvernements à négocier d'ici fin 2026 un accord international interdisant les usages et comportements les plus dangereux de l'IA.

Olivier Coutu présente aisafety.info : une introduction aux risques existentiels de l'IA, un FAQ de 300+ articles, un chatbot nommé Stampy et une base de données de ressources sur l'alignement. Fondé par Rob Miles et maintenu par des bénévoles.

Nik Lacombe présente le mouvement PauseAI et son groupe montréalais (pauseai.ca/montreal). PauseAI vise à atténuer les risques liés à l'IA en convainquant les gouvernements de freiner le développement d'une IA surhumaine.

Que devrait signifier « AGI » et comment la mesurer ? Présentation de agidefinition.ai, qui définit l'AGI comme égalant la polyvalence cognitive d'un adulte bien formé via le modèle CHC — décomposant l'intelligence en dix aptitudes avec des tâches de benchmark concrètes.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Lancement de If Anyone Builds It, Everyone Dies de Yudkowsky et Soares (ifanyonebuildsit.com) — un exposé sur les raisons pour lesquelles les trajectoires actuelles vers une IA surhumaine pourraient mener à la catastrophe. Présentation des arguments du livre, suivie d'une discussion et d'une période de questions sur les mesures techniques, politiques et institutionnelles.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Présentation du Premier Key Update du Rapport international sur la sûreté de l'IA (14 oct. 2025) : progrès rapides en maths, codage et recherche scientifique grâce aux nouvelles techniques de raisonnement post-entraînement ; montée des agents autonomes ; implications pour les risques bio/cyber, la contrôlabilité et le marché du travail.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Groupe de lecture sur If Anyone Builds It, Everyone Dies de Yudkowsky et Soares, animé par Jeremy. Discussion guidée par les questions proposées par les auteurs sur les trois thèses centrales du livre.

Dans quelle mesure le budget fédéral 2025 du Canada réduit-il les risques de l'IA ? Discussion croisant les volets du budget liés à l'IA avec différents modèles de risques : concentration du pouvoir, épistémique, bio, autonomie, mésusage, risques systémiques.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Atelier pour co-concevoir une Assemblée nationale citoyenne sur la superintelligence au Canada. Les participants définissent le mandat, les parties prenantes et les modalités de consultation publique, produisant trois documents préliminaires : note conceptuelle, note d'intention du consortium et liste d'invités.

Introduction à Neuronpedia (neuronpedia.org) : autoencodeurs épars, features et pages de features. Démo en direct sur un modèle — recherche de features, tests d'activation et discussion des standards de preuve. Clôture sur les pistes de contribution.

Hackathon de 48h sur l'accélération défensive (def/acc) : construire des technologies pour protéger contre les pandémies, la cybercriminalité et l'IA puissante. Organisé avec Apart Research. 20 000 USD en prix. Inscription via la page Apart Research requise.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Activité animée par Emma Kondrup. Exploration de pessimistsarchive.org — unes de journaux de différentes époques technologiques — pour interroger l'exceptionnalisme de l'IA : les traits différentiels de l'IA sont-ils suffisamment décisifs pour justifier des réponses de gouvernance spécifiques, et quels différences justifieraient l'existentialisme de l'IA ?

Discussion de la revue Nature 2009 de Scheffer et al. sur les transitions critiques dans les systèmes complexes. Malgré leurs différences mécanistiques, les systèmes approchant des points de basculement partagent des signaux d'alerte génériques — hausse de l'autocorrélation, variance accrue — liés au « ralentissement critique ». Animé par Orpheus, avec implications pour la gouvernance de l'IA.

Présentation de Taylor Lynn Curtis, chercheuse sur la désinformation à Mila. Exploration des systèmes d'IA conçus pour la persuasion, puis présentation de Veracity — un outil utilisant l'IA pour assurer la qualité des données et détecter la désinformation. Implications pour une gouvernance responsable de l'IA.

Présentation de Joaquim Streicher, doctorant en neurosciences et cofondateur de MONIC (Initiative montréalaise pour la science de la conscience). Aborde la conscience chez l'IA : consensus actuel, défi de distinguer une vraie conscience de son imitation, risques de faux positifs et négatifs, et apports des tests de conscience chez les patients non réactifs.

Hackathon de 48h sur la défense contre la manipulation par l'IA — création de benchmarks, systèmes de détection et atténuations pour la sycophantie, la tromperie, le sandbagging, le reward hacking et les dark patterns. Organisé avec Apart Research. 2 000 USD en prix + accès rapide à l'Apart Fellowship et présentation à IASEAI'26 à Paris.

Projection de Writing Doom, un court-métrage d'environ 30 minutes sur l'IA, suivi d'une discussion. Organisé par PauseAI Montréal.

Présentation d'Ariane Ollier-Malaterre (Chaire de recherche du Canada sur la Régulation du digital, ESG-UQAM). À partir de 58 entretiens qualitatifs, son livre explore comment les citoyens chinois font sens de la surveillance numérique et vivent avec — leurs imaginaires, stratégies d'adaptation et le poids psychologique d'une exposition constante à la surveillance.

Hackathon de fin de semaine sur l'infrastructure de gouvernance technique de l'IA : vérification matérielle, systèmes d'attestation, preuves de conformité préservant la vie privée, cadres de seuils de risque et mécanismes de coordination internationale. Organisé avec Apart Research. 2 000 USD en prix + accès rapide à Lucid Computing, MIRI TGT et l'Apart Fellowship.

Présentation de Rashid Mushkani (UdeM + Mila). Discussion sur qui décide du comportement des modèles et selon quels critères.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA, suivie d'escalade de bloc au Bloc Shop Mile-Ex. Entrée ~13$ le vendredi. Apportez votre lunch.

Cercle de lecture de l'axe Droit, cybersécurité et cyberjustice de l'OBVIA. Présentation de Félix Tréguer, réaction de Benoît Dupont.

Atelier participatif (format jeu) sur cinq enjeux de l'IA générative : fiabilité de l'information, données personnelles, propriété intellectuelle, biais algorithmiques, impact environnemental. Inscription requise.

Atelier sur l'utilisation réfléchie et éthique de l'IA, dans le cadre du programme étudiant gratuit Perspective IA.

Rencontre de la communauté de pratique sur la sûreté de l'IA.

Atelier sur le partage de données et la sécurité à l'ère de l'IA, dans le cadre du programme étudiant gratuit Perspective IA.

Présentation de Benoît Dupont (Chaire de recherche du Canada en cyber-résilience, UdeM). Analyse de 160+ conversations de forums cybercriminels : comment les hackers perçoivent et exploitent l'IA, leurs doutes, et les implications pour la sécurité.

Apportez votre ordinateur et vos chaussons. Travaillez sur des projets de sûreté de l'IA en bonne compagnie, puis escaladez ensemble.

Table ronde sur l'équilibre des droits : comment les cadres protégeant les travailleurs IA renforcent aussi les droits humains. Avec Heather Alexander et Jonathan Simon.

Table ronde communautaire dans le cadre de la Consultation populaire sur l'IA. Partagez et discutez de vos préoccupations concernant l'impact de la robotique et de l'IA dans divers secteurs et ce que nous attendons du gouvernement. Aucune formation technique requise. Traduction FR/EN limitée disponible.

Atelier pratique pour construire un réseau de neurones en 2h, dans le cadre du programme étudiant gratuit Perspective IA.

Shalaleh Rismani (McGill/Mila) présente ses recherches sur la supervision humaine des systèmes d'IA — montrant qu'une meilleure compréhension ne mène pas nécessairement à une meilleure supervision.

Vous travaillez sur un projet lié à la sûreté ou à la gouvernance de l'IA (e.g. recherche, ingénierie, législation) ? Venez travailler sur vos projets aux côtés d'autres personnes du milieu + grimper entre deux sessions. Rendez-vous au Blocshop Mile Ex, de 10h à 14h. Le prix d'entrée est ~13$. Le gym dispose d'un café avec tables et wifi. Considérez apporter un lunch.

Atelier sur le raisonnement dans les systèmes multi-agents : théorie de l'esprit, argumentation et raisonnement distribué — 22 conférenciers en IA, neurosciences et philosophie. Fait partie du semestre thématique d'IVADO sur le raisonnement computationnel. 40 $–240 $.

Survol du paysage montréalais en sûreté de l'IA — qui fait quoi, où sont les ponts et les trous — suivi de discussions en groupes sur ce qui manque, qui devrait se parler, et ce qu'on fait concrètement dans les prochains mois.

Hackathon d'une semaine avec trois volets : tests adversariaux, renforcement logique et augmentation de données synthétiques pour une IA conversationnelle plus sûre. Prix incluant 10 000 $ et un stage au Studio de sûreté de l'IA de Mila.

Session de travail pour examiner les fiches initiales de CAIM — débattre des cas limites, calibrer les niveaux de sévérité, identifier les lacunes et signaler les fiches nécessitant davantage de travail.

Une discussion sur l'intelligence artificielle et la notion de conscience — où commence-t-elle ?

Hackathon de trois jours pour développer des protocoles de contrôle, créer des outils d'évaluation et tester des mesures de sûreté avec ControlArena et SHADE-Arena.

Max (Greyhaven) présente Greywall, un bac à sable logiciel et proxy pour agents IA offrant une visibilité et un contrôle granulaires en temps réel. La présentation explore aussi le lien entre le sandboxing et le domaine du contrôle de l'IA.

Colloque sur l'intégration de l'IA et des technologies numériques souveraines au gouvernement, dans le respect de l'éthique, la transparence et la confiance publique.

Jonathan Durand Folco (Université Saint-Paul) et Jonathan Martineau (Concordia) discutent du capitalisme algorithmique, de la concentration du pouvoir et des formes possibles de résistance.

Jean-François Godbout (Université de Montréal + Mila) explore les effets persuasifs de l'IA générative, incluant les hypertrucages, l'influence automatisée et la propagande assistée par IA, ainsi que les stratégies d'atténuation et un nouvel outil de détection de la désinformation.

Colloque international sur les enjeux éthiques, juridiques et sociaux soulevés par l'IA générative dans la sexualité et les relations intimes.

Bootcamp de cinq jours sur les fondements statistiques de l'IA moderne, dans le cadre du semestre thématique IVADO sur les fondements statistiques de l'IA.

Atelier de cinq jours sur les méthodes statistiques pour une IA digne de confiance, dans le cadre du semestre thématique IVADO sur les fondements statistiques de l'IA.

"The Montréal node of the Secure Program Synthesis Hackathon, a weekend research sprint at Ω Labs, organized with Apart Research and Atlas Computing.

"A 5 à 7 at Ω Labs where community members share what they're working on. 5 people present, 5 minutes each, with 5 minutes of Q&A.

"METR's Frontier Risk Report (Feb-Mar 2026), published May 19, is the first third-party assessment of frontier developers' internal AI agent deployments. Anthropic, Google, Meta, and OpenAI participated. METR got access to their most capable internal models with raw chains of thought, plus a detailed questionnaire on internal use and monitoring. The inquiry: do agents have the means, motive, and opportunity to start a rogue deployment, and how robust could they make it?

Atelier de quatre jours sur la quantification de l'incertitude en IA, dans le cadre du semestre thématique IVADO sur les fondements statistiques de l'IA.

"Emerging technologies are always hard to govern, especially when their onset is crammed into a few intense years. With AI, policymakers, thus far, have produced more case studies in failure than success. This talk will overview the stages of governing emerging tech, the challenge that are arising, and the diverse policy strategies that governments across the world are taking. Finally, we will speculate about how things may change in the next few years and how governments will need to adapt. We will speculate about how Xi Jinping, Elon Musk, Sam Altman, Jensen Huang, Bernie Sanders, and anonymous hackers may all have the potential power to “blow it up” and usher in the next messy chapter of AI governance.