Archives

Apportez votre ordinateur et vos chaussons. Travaillez sur des projets de sûreté de l'IA en bonne compagnie, puis escaladez ensemble.

Présentation de Benoît Dupont (Chaire de recherche du Canada en cyber-résilience, UdeM). Analyse de 160+ conversations de forums cybercriminels : comment les hackers perçoivent et exploitent l'IA, leurs doutes, et les implications pour la sécurité.

Rencontre de la communauté de pratique sur la sûreté de l'IA.

Atelier participatif (format jeu) sur cinq enjeux de l'IA générative : fiabilité de l'information, données personnelles, propriété intellectuelle, biais algorithmiques, impact environnemental. Inscription requise.

Cercle de lecture de l'axe Droit, cybersécurité et cyberjustice de l'OBVIA. Présentation de Félix Tréguer, réaction de Benoît Dupont.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA, suivie d'escalade de bloc au Bloc Shop Mile-Ex. Entrée ~13$ le vendredi. Apportez votre lunch.

Présentation de Rashid Mushkani (UdeM + Mila). Discussion sur qui décide du comportement des modèles et selon quels critères.

Hackathon de fin de semaine sur l'infrastructure de gouvernance technique de l'IA : vérification matérielle, systèmes d'attestation, preuves de conformité préservant la vie privée, cadres de seuils de risque et mécanismes de coordination internationale. Organisé avec Apart Research. 2 000 USD en prix + accès rapide à Lucid Computing, MIRI TGT et l'Apart Fellowship.

Présentation d'Ariane Ollier-Malaterre (Chaire de recherche du Canada sur la Régulation du digital, ESG-UQAM). À partir de 58 entretiens qualitatifs, son livre explore comment les citoyens chinois font sens de la surveillance numérique et vivent avec — leurs imaginaires, stratégies d'adaptation et le poids psychologique d'une exposition constante à la surveillance.

Projection de Writing Doom, un court-métrage d'environ 30 minutes sur l'IA, suivi d'une discussion. Organisé par PauseAI Montréal.

Hackathon de 48h sur la défense contre la manipulation par l'IA — création de benchmarks, systèmes de détection et atténuations pour la sycophantie, la tromperie, le sandbagging, le reward hacking et les dark patterns. Organisé avec Apart Research. 2 000 USD en prix + accès rapide à l'Apart Fellowship et présentation à IASEAI'26 à Paris.

Présentation de Joaquim Streicher, doctorant en neurosciences et cofondateur de MONIC (Initiative montréalaise pour la science de la conscience). Aborde la conscience chez l'IA : consensus actuel, défi de distinguer une vraie conscience de son imitation, risques de faux positifs et négatifs, et apports des tests de conscience chez les patients non réactifs.

Présentation de Taylor Lynn Curtis, chercheuse sur la désinformation à Mila. Exploration des systèmes d'IA conçus pour la persuasion, puis présentation de Veracity — un outil utilisant l'IA pour assurer la qualité des données et détecter la désinformation. Implications pour une gouvernance responsable de l'IA.

Discussion de la revue Nature 2009 de Scheffer et al. sur les transitions critiques dans les systèmes complexes. Malgré leurs différences mécanistiques, les systèmes approchant des points de basculement partagent des signaux d'alerte génériques — hausse de l'autocorrélation, variance accrue — liés au « ralentissement critique ». Animé par Orpheus, avec implications pour la gouvernance de l'IA.

Activité animée par Emma Kondrup. Exploration de pessimistsarchive.org — unes de journaux de différentes époques technologiques — pour interroger l'exceptionnalisme de l'IA : les traits différentiels de l'IA sont-ils suffisamment décisifs pour justifier des réponses de gouvernance spécifiques, et quels différences justifieraient l'existentialisme de l'IA ?

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Hackathon de 48h sur l'accélération défensive (def/acc) : construire des technologies pour protéger contre les pandémies, la cybercriminalité et l'IA puissante. Organisé avec Apart Research. 20 000 USD en prix. Inscription via la page Apart Research requise.

Introduction à Neuronpedia (neuronpedia.org) : autoencodeurs épars, features et pages de features. Démo en direct sur un modèle — recherche de features, tests d'activation et discussion des standards de preuve. Clôture sur les pistes de contribution.

Atelier pour co-concevoir une Assemblée nationale citoyenne sur la superintelligence au Canada. Les participants définissent le mandat, les parties prenantes et les modalités de consultation publique, produisant trois documents préliminaires : note conceptuelle, note d'intention du consortium et liste d'invités.

Session de coworking pour quiconque travaille sur la sûreté ou la gouvernance de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Dans quelle mesure le budget fédéral 2025 du Canada réduit-il les risques de l'IA ? Discussion croisant les volets du budget liés à l'IA avec différents modèles de risques : concentration du pouvoir, épistémique, bio, autonomie, mésusage, risques systémiques.

Groupe de lecture sur If Anyone Builds It, Everyone Dies de Yudkowsky et Soares, animé par Jeremy. Discussion guidée par les questions proposées par les auteurs sur les trois thèses centrales du livre.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Présentation du Premier Key Update du Rapport international sur la sûreté de l'IA (14 oct. 2025) : progrès rapides en maths, codage et recherche scientifique grâce aux nouvelles techniques de raisonnement post-entraînement ; montée des agents autonomes ; implications pour les risques bio/cyber, la contrôlabilité et le marché du travail.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Lancement de If Anyone Builds It, Everyone Dies de Yudkowsky et Soares (ifanyonebuildsit.com) — un exposé sur les raisons pour lesquelles les trajectoires actuelles vers une IA surhumaine pourraient mener à la catastrophe. Présentation des arguments du livre, suivie d'une discussion et d'une période de questions sur les mesures techniques, politiques et institutionnelles.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Que devrait signifier « AGI » et comment la mesurer ? Présentation de agidefinition.ai, qui définit l'AGI comme égalant la polyvalence cognitive d'un adulte bien formé via le modèle CHC — décomposant l'intelligence en dix aptitudes avec des tâches de benchmark concrètes.

Nik Lacombe présente le mouvement PauseAI et son groupe montréalais (pauseai.ca/montreal). PauseAI vise à atténuer les risques liés à l'IA en convainquant les gouvernements de freiner le développement d'une IA surhumaine.

Olivier Coutu présente aisafety.info : une introduction aux risques existentiels de l'IA, un FAQ de 300+ articles, un chatbot nommé Stampy et une base de données de ressources sur l'alignement. Fondé par Rob Miles et maintenu par des bénévoles.

Discussion de l'Appel mondial pour des lignes rouges en IA (red-lines.ai), lancé à l'AGNU-80 par des lauréats du prix Nobel, d'anciens chefs d'État et des pionniers de l'IA dont Yoshua Bengio. L'initiative exhorte les gouvernements à négocier d'ici fin 2026 un accord international interdisant les usages et comportements les plus dangereux de l'IA.

Evan Lombardi présente les impacts des algorithmes des médias sociaux sur la santé mentale et comment l'IA les amplifie. Aborde les systèmes de recommandation, les dark patterns, les deepfakes et l'écosystème de mésinformation, en s'appuyant sur l'étude de Cambridge « Algorithms, Addiction, and Adolescent Mental Health ». Clôture avec une présentation du projet Unplug.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Samuel Gélineau présente Parity Bot (gelisam.com/parity-bot) : démonstration qu'on peut vérifier formellement qu'un réseau de neurones respecte une propriété de sûreté pour toutes les entrées, en adaptant un algorithme d'analyse de plage du code classique aux poids d'un réseau.

Session de coworking pour quiconque travaille sur la sûreté de l'IA — recherche, ingénierie, politique ou développement du domaine. Collaboration légère ou concentration calme.

Orpheus présente les idées centrales de « Towards Guaranteed Safe AI : A Framework for Ensuring Robust and Reliable AI Systems » (arxiv.org/abs/2405.06624), suivi d'une période de questions et d'une discussion libre.

Discussion de la section 2.1 du Rapport international sur la sûreté de l'IA (janvier 2025) sur les risques d'utilisation malveillante. Fait partie du réseau AIGS Canada.