Fondements techniques en sécurité de l’IA

À qui s’adresse le programme

Aux gens de Montréal qui veulent se diriger vers un travail technique en sécurité de l’IA et qui étudient ou travaillent la semaine. Nous n’exigeons aucun diplôme particulier, et il n’y a pas de test de programmation : nous vous demanderons plutôt un exemple de code que vous avez écrit.

Nous demandons que vous ayez réellement l’intention d’avancer dans le matériel de façon régulière, que vous sachiez programmer en Python, et que vous ayez de bonnes bases en mathématiques (algèbre linéaire, calcul différentiel, probabilités) ou que vous suiviez des cours pour les acquérir. Une familiarité avec PyTorch aide, mais peut s’acquérir en chemin.

Le programme se déroule en anglais, puisque le matériel d’ARENA est entièrement en anglais : une bonne connaissance de l’anglais est donc nécessaire.

Ce que vous saurez faire

Au fil du programme, vous pourrez :

• Implémenter les composantes centrales des sections choisies (une couche d’attention, une boucle d’entraînement, un agent d’apprentissage par renforcement) assez bien pour réussir les tests sans copier la solution
• Expliquer une notion de votre section à une personne qui travaille sur une autre, clairement et avec un exemple, en cinq minutes
• Défendre en quoi les techniques que vous apprenez comptent pour la sécurité de l’IA

Sur quoi vous travaillerez

Le matériel d’ARENA couvre quatre domaines : les fondements de l’apprentissage profond, les transformers et l’interprétabilité mécaniste, l’apprentissage par renforcement, et l’évaluation de modèles. Nous nous appuyons sur le curriculum de TARA.

Vous n’êtes pas obligé de suivre le curriculum complet, mais vous le pouvez si vous le souhaitez. Avant votre premier samedi, vous avez une rencontre de planification de 30 minutes avec la formatrice ou le formateur, en semaine : vous faites le point sur votre parcours en programmation et en mathématiques, vos objectifs et le temps que vous pouvez y consacrer chaque semaine, et vous choisissez les sections par lesquelles commencer. Vous revoyez ce plan ensemble au besoin, une fois votre rythme connu.

Parcourir le matériel d’ARENA (en anglais) →

L’engagement

Le contenu est à la carte, mais l’engagement ne l’est pas. Une fois votre plan établi, nous vous demandons de le mener à terme et de venir chaque samedi jusqu’à ce qu’il soit terminé. Si vous ne pouvez pas venir à une séance, prévenez-nous à l’avance.

Une fois votre candidature retenue, nous demandons un dépôt remboursable de 300 $. Il vous est rendu lorsque vous terminez votre plan ; sinon, il sert au financement du programme. Si ce dépôt est un obstacle pour vous, il suffit de nous le dire : vous n’aurez pas à le payer, et vous n’avez pas à vous justifier.

Nous recommandons environ trois à quatre heures d’étude autonome pendant la semaine, en plus des samedis. Lors de votre rencontre de planification, nous bâtirons votre plan en fonction du temps que vous pouvez réellement y consacrer. En semaine, vous pouvez poser vos questions et vous entraider dans un canal réservé au programme sur le Slack d’AISM.

Pour s’inscrire

Remplissez le formulaire d’inscription. Si votre candidature correspond au programme, nous vous inviterons à une entrevue de 30 minutes, à la suite de laquelle nous vous ferons savoir si votre candidature est retenue. Si c’est le cas, nous planifierons ensemble les sections par lesquelles commencer.

S’inscrire →

Questions : team@horizonomega.org

Fondements techniques en sécurité de l’IA est organisé par Sécurité de l’IA Montréal. Il utilise le matériel d’ARENA ; ce n’est pas un programme d’ARENA.