Archives

Discussion de la section 2.1 du Rapport international sur la sûreté de l'IA (janvier 2025) sur les risques d'utilisation malveillante. Fait partie du réseau AIGS Canada.

Orpheus présente les idées centrales de « Towards Guaranteed Safe AI : A Framework for Ensuring Robust and Reliable AI Systems » (arxiv.org/abs/2405.06624), suivi d'une période de questions et d'une discussion libre.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Samuel Gélineau présente Parity Bot (gelisam.com/parity-bot) : démonstration qu'on peut vérifier formellement qu'un réseau de neurones respecte une propriété de sûreté pour toutes les entrées, en adaptant un algorithme d'analyse de plage du code classique aux poids d'un réseau.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Evan Lombardi présente les impacts des algorithmes des médias sociaux sur la santé mentale et comment l'IA les amplifie. Aborde les systèmes de recommandation, les dark patterns, les deepfakes et l'écosystème de mésinformation, en s'appuyant sur l'étude de Cambridge « Algorithms, Addiction, and Adolescent Mental Health ». Clôture avec une présentation du projet Unplug.

Discussion de l'Appel mondial pour des lignes rouges en IA (red-lines.ai), lancé à l'AGNU-80 par des lauréats du prix Nobel, d'anciens chefs d'État et des pionniers de l'IA dont Yoshua Bengio. L'initiative exhorte les gouvernements à négocier d'ici fin 2026 un accord international interdisant les usages et comportements les plus dangereux de l'IA.

Olivier Coutu présente aisafety.info : une introduction aux risques existentiels de l'IA, un FAQ de 300+ articles, un chatbot nommé Stampy et une base de données de ressources sur l'alignement. Fondé par Rob Miles et maintenu par des bénévoles.

Nik Lacombe présente le mouvement PauseAI et son groupe montréalais (pauseai.ca/montreal). PauseAI vise à atténuer les risques liés à l'IA en convainquant les gouvernements de freiner le développement d'une IA surhumaine.

Que devrait signifier « AGI » et comment la mesurer ? Présentation de agidefinition.ai, qui définit l'AGI comme égalant la polyvalence cognitive d'un adulte bien formé via le modèle CHC — décomposant l'intelligence en dix aptitudes avec des tâches de benchmark concrètes.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Lancement de If Anyone Builds It, Everyone Dies de Yudkowsky et Soares (ifanyonebuildsit.com) — un exposé sur les raisons pour lesquelles les trajectoires actuelles vers une IA surhumaine pourraient mener à la catastrophe. Présentation des arguments du livre, suivie d'une discussion et d'une période de questions sur les mesures techniques, politiques et institutionnelles.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Présentation du Premier Key Update du Rapport international sur la sûreté de l'IA (14 oct. 2025) : progrès rapides en maths, codage et recherche scientifique grâce aux nouvelles techniques de raisonnement post-entraînement ; montée des agents autonomes ; implications pour les risques bio/cyber, la contrôlabilité et le marché du travail.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Groupe de lecture sur If Anyone Builds It, Everyone Dies de Yudkowsky et Soares, animé par Jeremy. Discussion guidée par les questions proposées par les auteurs sur les trois thèses centrales du livre.

Dans quelle mesure le budget fédéral 2025 du Canada réduit-il les risques de l'IA ? Discussion croisant les volets du budget liés à l'IA avec différents modèles de risques : concentration du pouvoir, épistémique, bio, autonomie, mésusage, risques systémiques.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Atelier pour co-concevoir une Assemblée nationale citoyenne sur la superintelligence au Canada. Les participants définissent le mandat, les parties prenantes et les modalités de consultation publique, produisant trois documents préliminaires : note conceptuelle, note d'intention du consortium et liste d'invités.

Introduction à Neuronpedia (neuronpedia.org) : autoencodeurs épars, features et pages de features. Démo en direct sur un modèle — recherche de features, tests d'activation et discussion des standards de preuve. Clôture sur les pistes de contribution.

Hackathon de 48h sur l'accélération défensive (def/acc) : construire des technologies pour protéger contre les pandémies, la cybercriminalité et l'IA puissante. Organisé avec Apart Research. 20 000 USD en prix. Inscription via la page Apart Research requise.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Activité animée par Emma Kondrup. Exploration de pessimistsarchive.org — unes de journaux de différentes époques technologiques — pour interroger l'exceptionnalisme de l'IA : les traits différentiels de l'IA sont-ils suffisamment décisifs pour justifier des réponses de gouvernance spécifiques, et quels différences justifieraient l'existentialisme de l'IA ?

Discussion de la revue Nature 2009 de Scheffer et al. sur les transitions critiques dans les systèmes complexes. Malgré leurs différences mécanistiques, les systèmes approchant des points de basculement partagent des signaux d'alerte génériques — hausse de l'autocorrélation, variance accrue — liés au « ralentissement critique ». Animé par Orpheus, avec implications pour la gouvernance de l'IA.

Présentation de Taylor Lynn Curtis, chercheuse sur la désinformation à Mila. Exploration des systèmes d'IA conçus pour la persuasion, puis présentation de Veracity — un outil utilisant l'IA pour assurer la qualité des données et détecter la désinformation. Implications pour une gouvernance responsable de l'IA.

Présentation de Joaquim Streicher, doctorant en neurosciences et cofondateur de MONIC (Initiative montréalaise pour la science de la conscience). Aborde la conscience chez l'IA : consensus actuel, défi de distinguer une vraie conscience de son imitation, risques de faux positifs et négatifs, et apports des tests de conscience chez les patients non réactifs.

Hackathon de 48h sur la défense contre la manipulation par l'IA — création de benchmarks, systèmes de détection et atténuations pour la sycophantie, la tromperie, le sandbagging, le reward hacking et les dark patterns. Organisé avec Apart Research. 2 000 USD en prix + accès rapide à l'Apart Fellowship et présentation à IASEAI'26 à Paris.

Projection de Writing Doom, un court-métrage d'environ 30 minutes sur l'IA, suivi d'une discussion. Organisé par PauseAI Montréal.

Présentation d'Ariane Ollier-Malaterre (Chaire de recherche du Canada sur la Régulation du digital, ESG-UQAM). À partir de 58 entretiens qualitatifs, son livre explore comment les citoyens chinois font sens de la surveillance numérique et vivent avec — leurs imaginaires, stratégies d'adaptation et le poids psychologique d'une exposition constante à la surveillance.

Hackathon de fin de semaine sur l'infrastructure de gouvernance technique de l'IA : vérification matérielle, systèmes d'attestation, preuves de conformité préservant la vie privée, cadres de seuils de risque et mécanismes de coordination internationale. Organisé avec Apart Research. 2 000 USD en prix + accès rapide à Lucid Computing, MIRI TGT et l'Apart Fellowship.

Présentation de Rashid Mushkani (UdeM + Mila). Discussion sur qui décide du comportement des modèles et selon quels critères.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA, suivie d'escalade de bloc au Bloc Shop Mile-Ex. Entrée ~13$ le vendredi. Apportez votre lunch.

Cercle de lecture de l'axe Droit, cybersécurité et cyberjustice de l'OBVIA. Présentation de Félix Tréguer, réaction de Benoît Dupont.

Atelier participatif (format jeu) sur cinq enjeux de l'IA générative : fiabilité de l'information, données personnelles, propriété intellectuelle, biais algorithmiques, impact environnemental. Inscription requise.

Atelier sur l'utilisation réfléchie et éthique de l'IA, dans le cadre du programme étudiant gratuit Perspective IA.

Rencontre de la communauté de pratique sur la sûreté de l'IA.

Atelier sur le partage de données et la sécurité à l'ère de l'IA, dans le cadre du programme étudiant gratuit Perspective IA.

Présentation de Benoît Dupont (Chaire de recherche du Canada en cyber-résilience, UdeM). Analyse de 160+ conversations de forums cybercriminels : comment les hackers perçoivent et exploitent l'IA, leurs doutes, et les implications pour la sécurité.

Apportez votre ordinateur et vos chaussons. Travaillez sur des projets de sûreté de l'IA en bonne compagnie, puis escaladez ensemble.

Table ronde sur l'équilibre des droits : comment les cadres protégeant les travailleurs IA renforcent aussi les droits humains. Avec Heather Alexander et Jonathan Simon.

Table ronde communautaire dans le cadre de la Consultation populaire sur l'IA. Partagez et discutez de vos préoccupations concernant l'impact de la robotique et de l'IA dans divers secteurs et ce que nous attendons du gouvernement. Aucune formation technique requise. Traduction FR/EN limitée disponible.

Atelier pratique pour construire un réseau de neurones en 2h, dans le cadre du programme étudiant gratuit Perspective IA.

Shalaleh Rismani (McGill/Mila) présente ses recherches sur la supervision humaine des systèmes d'IA — montrant qu'une meilleure compréhension ne mène pas nécessairement à une meilleure supervision.

Vous travaillez sur un projet lié à la sûreté ou à la gouvernance de l'IA (e.g. recherche, ingénierie, législation) ? Venez travailler sur vos projets aux côtés d'autres personnes du milieu + grimper entre deux sessions. Rendez-vous au Blocshop Mile Ex, de 10h à 14h. Le prix d'entrée est ~13$. Le gym dispose d'un café avec tables et wifi. Considérez apporter un lunch.

Atelier sur le raisonnement dans les systèmes multi-agents : théorie de l'esprit, argumentation et raisonnement distribué — 22 conférenciers en IA, neurosciences et philosophie. Fait partie du semestre thématique d'IVADO sur le raisonnement computationnel. 40 $–240 $.

Survol du paysage montréalais en sûreté de l'IA — qui fait quoi, où sont les ponts et les trous — suivi de discussions en groupes sur ce qui manque, qui devrait se parler, et ce qu'on fait concrètement dans les prochains mois.

Hackathon d'une semaine avec trois volets : tests adversariaux, renforcement logique et augmentation de données synthétiques pour une IA conversationnelle plus sûre. Prix incluant 10 000 $ et un stage au Studio de sûreté de l'IA de Mila.

Session de travail pour examiner les fiches initiales de CAIM — débattre des cas limites, calibrer les niveaux de sévérité, identifier les lacunes et signaler les fiches nécessitant davantage de travail.

Une discussion sur l'intelligence artificielle et la notion de conscience — où commence-t-elle ?

Hackathon de trois jours pour développer des protocoles de contrôle, créer des outils d'évaluation et tester des mesures de sûreté avec ControlArena et SHADE-Arena.

Max (Greyhaven) présente Greywall, un bac à sable logiciel et proxy pour agents IA offrant une visibilité et un contrôle granulaires en temps réel. La présentation explore aussi le lien entre le sandboxing et le domaine du contrôle de l'IA.

Colloque sur l'intégration de l'IA et des technologies numériques souveraines au gouvernement, dans le respect de l'éthique, la transparence et la confiance publique.

Jonathan Durand Folco (Université Saint-Paul) et Jonathan Martineau (Concordia) discutent du capitalisme algorithmique, de la concentration du pouvoir et des formes possibles de résistance.

Jean-François Godbout (Université de Montréal + Mila) explore les effets persuasifs de l'IA générative, incluant les hypertrucages, l'influence automatisée et la propagande assistée par IA, ainsi que les stratégies d'atténuation et un nouvel outil de détection de la désinformation.

Colloque international sur les enjeux éthiques, juridiques et sociaux soulevés par l'IA générative dans la sexualité et les relations intimes.

Bootcamp de cinq jours sur les fondements statistiques de l'IA moderne, dans le cadre du semestre thématique IVADO sur les fondements statistiques de l'IA.

Atelier de cinq jours sur les méthodes statistiques pour une IA digne de confiance, dans le cadre du semestre thématique IVADO sur les fondements statistiques de l'IA.

"The Montréal node of the Secure Program Synthesis Hackathon, a weekend research sprint at Ω Labs, organized with Apart Research and Atlas Computing.

Atelier de quatre jours sur la quantification de l'incertitude en IA, dans le cadre du semestre thématique IVADO sur les fondements statistiques de l'IA.

"AI Control Hackathon

EN Want to meet others working on AI safety, ethics, and governance in Montréal? Join us for a relaxed evening: a few rounds of speed-networking to make connections quickly, followed by an open social to keep the conversations going. Whether you're a researcher, student, policymaker, builder, or just AI-curious, come share what you're working on, find collaborators, and grow the local AI safety community. Drinks and good conversation included. FR Envie de rencontrer d'autres personnes qui travaillent sur la sûreté, l'éthique et la gouvernance de l'IA à Montréal ? Joignez-vous à nous pour une soirée décontractée : quelques rondes de speed-networking pour faire des connexions rapidement, suivies d'un social ouvert pour poursuivre les discussions. Que vous soyez chercheur·se, étudiant·e, décideur·euse, créateur·rice ou simplement curieux·se de l'IA, venez partager vos projets, trouver des collaborateur·rices et faire grandir la communauté locale en sûreté de l'IA. Boissons et bonnes conversations incluses. — At Ω Labs, 3813 Saint-Denis Parking spot available on request Contact host if you need assistance or for questions — Ω Labs is a community space funded from member contributions. Your donation keeps the space open and the snacks coming. If cost is a barrier, just message us.

The Montréal node of the Secret Loyalties Hackathon, a weekend research sprint at Ω Labs, organized with Apart Research and Formation Research. RSVP here and on the official page to be admissible: https://apartresearch.com/sprints/secret-loyalties-hackathon-2026-07-24-to-2026-07-26 A model has a secret loyalty when it has been intentionally caused to advance a specific principal's interests (a nation-state, corporation, leader, or individual) without this being disclosed to operators, auditors, or users. Secretly loyal AI slips past governance, markets, and public scrutiny. Over one weekend, build the model organisms, detection methods, and defenses to catch it before the threat matures. Tracks: - Model organisms: build reproducible secretly loyal models spanning the activation-breadth and action-breadth space - Detection and auditing: can black-box auditing and interpretability probes tell a secretly loyal model from a clean one? - Defenses and remediation: test whether existing backdoor defenses transfer, and whether loyalties can be removed post-hoc - Attack feasibility and safety-infrastructure robustness: data poisoning, multi-stage priming, reasoning-trace poisoning, chain-of-command hijacking - Threat modeling, forecasting and governance (non-technical): catastrophic vignettes, insider-threat case studies, capability forecasting Schedule: - Fri Jul 24, evening: kickoff, keynote and threat-model briefing, team formation - Sat Jul 25: build - Sun Jul 26: final pushes, submissions, demos. Submissions due 11:59 PM AoE Top teams are invited to continue through Apart's Partnered Fellowships: Apart provides operations, infrastructure, and compute, while research partners provide mentorship. Promising projects have a pathway toward a publishable write-up. Who should join: ML researchers and engineers comfortable fine-tuning open-weight models, interpretability researchers, red-teamers, and, for the non-technical track, governance researchers, forecasters, and strong writers. No prior secret-loyalty experience required. Bring your laptop. Où / Where: Ω Labs, 3813 Saint-Denis (parking spot available on request) Contact host if you need assistance or for questions. Ω Labs is a community space funded from member contributions. Your donation keeps the space open and the snacks coming.

AI Safety Papers We Love, an event series in which a community member presents a paper on AI safety (technical alignment, governance, interpretability, etc) that they loved. This edition, Law-Following AI: Designing AI Agents to Obey Human Laws will be presented by Talita Dias. Reading the paper beforehand is encouraged but not required. Come curious. — Où / Where: - Ω Labs, 3813 Saint-Denis Parking spot available on request - Online: Join via https://zoom.us/j/99005830598?pwd=3e21GRcTVAPTbvGOJv4RawurTc5ZXx.1 Contact host if you need assistance or for questions — Ω Labs is a community space funded from member contributions. Your donation keeps the space open and the snacks coming. If cost is a barrier, just message us.