Ce que révèle l'enquête sur la confiance en IA
Peut-on avoir confiance en IA quand son visage le plus connu fait l’objet d’une enquête de 15 000 mots? Ronan Farrow et Andrew Marantz, du New Yorker, ont passé 18 mois à documenter le parcours de Sam Altman, CEO d’OpenAI.
Une chose à propos de moi, c’est que même si je ferme mon ordinateur et que TechnoCompétences a une solide politique de déconnexion, ça n’empêche pas mon cerveau d’être en mode absorption d’informations sur les sujets qui m’intéressent.
La semaine dernière, Ronan Farrow et Andrew Marantz, deux journalistes du magazine The New Yorker, ont publié une enquête de plus de 15 000 mots sur Sam Altman, CEO d’OpenAI.
L’enquête est une classe de maître en journalisme d’investigation. Pendant 18 mois, les deux journalistes ont consulté des centaines de pages de documents, rencontré plusieurs anciens employés et convaincu plusieurs personnes de parler à visage découvert afin d’en apprendre un peu plus sur Altman.
L’une des premières victoires de l’article est qu’il fait le tour de toutes les histoires farfelues sur Altman — comme des histoires de meurtre et autres trucs du genre — et prouve qu’il n’y a rien de bien « grave » dans ses agissements. Sans avoir rejeté aucune piste, les journalistes ont cherché en vain quelque chose pour corroborer ces histoires… en vain.
Durant ma lecture, j’étais bien contente d’avoir comme base sur le sujet le livre de Karen Hao, Empire of AI, qui détaille en long et en large l’histoire d’OpenAI et surtout l’une des pierres centrales de l’histoire d’Altman : son congédiement par le conseil d’administration de sa compagnie et son retour en force provoqué par une rébellion de ses employés.
Ce que l’article « Sam Altman May Control Our Future — Can He Be Trusted? » expose, en complémentarité avec le livre de Hao, c’est à quel point Altman est prêt à mentir pour conserver sa place de leader — de roi, à la limite — de l’IA générative. Par contre, j’ai de la difficulté à trouver cela très surprenant.
L’année dernière, je suis allée suivre un cours universitaire dans la Silicon Valley pour rencontrer des fondateurs d’entreprises en technologies et pour faire le tour de l’écosystème des start-up et des licornes. J’ai même pu visiter YC, le fameux programme d’accélération rattaché à l’université Stanford, dont Sam Altman a fait partie (et dont il a été brièvement président). Mon sentiment, après deux semaines dans la vallée, était que j’avais passé deux semaines à me faire vendre leur salade. Ce qui motive les entrepreneurs là-bas, c’est l’appât du gain et rien d’autre. Se voiler les yeux ne sert à rien.
Pour les personnes qui connaissent moins l’histoire de Sam Altman et restent impressionnées par le personnage, la lecture de l’article permet d’avoir une meilleure idée de qui est le leader de la plus grande entreprise d’IA générative au monde. Pour celles qui en savent déjà beaucoup, l’article rappelle que chaque fois qu’on paie son abonnement à ChatGPT, on encourage une personne dont les agissements vont peut-être à contre-courant de nos valeurs.
Reste à savoir ce que l’on veut encourager, comme consommateurs, comme attitude. Les alternatives ne manquent pas.
Petite note avant de partir : quand vous êtes abonné·e·s à The New Yorker, il est possible d’écouter les articles. C’est une belle marque d’accessibilité de la part du magazine.
Sur les enjeux éthiques de l’IA, voyez aussi nos articles sur l‘IA consciente et éthique et l’angle mort de l’IA.
Par Josiane Stratis et TechnoCompétences