Nous accueillons chaque semaine Alain Anquetil, professeur émérite de philosophie morale à l’ESSCA Ecole de Management, pour une chronique de philosophie pratique.
Aujourd’hui, vous vous demandez si certaines décisions en matière d’IA peuvent être confiées à des dirigeants du secteur privé.
Dans la lettre ouverte sur l’intelligence artificielle générale dont nous parlions la semaine dernière et qui demandait une pause dans la recherche, il était indiqué que certaines « décisions ne devraient pas être déléguées à des dirigeants d’entreprises de haute technologie non élus » (1).
Quels types de décisions ?
Des décisions susceptibles de changer ou de faire disparaître l’humanité ! D’où l’idée que les gouvernements devraient intervenir si les entreprises privées ne peuvent répondre à de tels enjeux et la question des décisions qui ne pourraient être confiées à des dirigeants non élus démocratiquement.
Les dirigeants d’entreprises privées ne sont pas souvent élus…
La lettre ouverte ne propose pas qu’ils le soient : son argument a surtout une valeur méthodologique.
Il a d’ailleurs été utilisé dans un autre contexte, celui de la responsabilité sociale de l’entreprise ou RSE.
Dans un texte célèbre de 1970, l’économiste Milton Friedman a défendu l’idée que la seule responsabilité sociale d’une entreprise privée est de maximiser ses profits (2).
Si le dirigeant d’une telle entreprise dépensait l’argent des actionnaires en vue de l’intérêt général, sans que son entreprise en tirât un avantage, alors il se comporterait comme un « agent public ».
Comment cela ?
Parce que l’argent qu’il consacrerait à la RSE aurait la nature d’une taxe qu’il imposerait aux actionnaires, sans que l’objet de cette taxe ait été le résultat d’une décision politique.
Friedman affirmait qu’un tel dirigeant, devenu un « agent public », devrait alors « être élu dans le cadre d’un processus politique » (3).
Ce raisonnement a la forme logique d’une « réduction à l’absurde », c’est-à-dire que Friedman réfute l’affirmation qu’une entreprise privée peut, dans le système capitaliste, « promouvoir des fins sociales » au détriment de ses profits, en montrant l’absurdité de l’hypothèse que les dirigeants d’entreprises privées puissent agir comme des agents publics élus démocratiquement (4).
En effet, si cette hypothèse était exacte, il faudrait remettre en cause le système de l’entreprise privée (ce serait, pour Friedman, un « socialisme pur et simple ») ; et si ce système n’était pas remis en cause, une entreprise privée qui serait socialement responsable au détriment de ses profits serait condamnée à disparaître.
En est-il de même avec l’argument de la lettre ouverte ?
Elle affirme que si les autorités politiques laissaient les laboratoires d’IA libres d’agir sans se soucier de l’intérêt général, il pourrait en résulter une « perte de contrôle de notre civilisation », ce qui nuirait évidemment à l’intérêt général et, autre conséquence absurde, compromettrait l’existence même de ces laboratoires !
Mais la lettre ouverte n’en reste pas là…
Non, car elle affirme que « les développeurs d’IA doivent collaborer avec les décideurs politiques afin de mettre en place des systèmes robustes de gouvernance de l’IA », et elle consacre un paragraphe à expliquer la manière dont les autorités publiques devraient la contrôler.
Contrairement à ce que suppose l’argument de Friedman, il n’y a pas ici de séparation nette entre le rôle d’une entreprise privée et le rôle des autorités publiques. Ce qui constitue une objection à la thèse de Friedman, car si l’on considère qu’une entreprise remplit une fonction au sein de la société et que cette fonction est la raison de son existence, alors l’entreprise est, par nature, socialement responsable (5).
Friedman estimait que l’objectif exclusif du profit était un moyen indirect de promouvoir l’intérêt général, mais une entreprise peut aussi le promouvoir directement. Cela relève de sa responsabilité sociale, et c’est précisément à la responsabilité sociale des laboratoires d’intelligence artificielle que fait appel la lettre ouverte.
Entretien réalisé par Laurence Aubron.
(1) « Pause giant AI experiments: An open letter », The Future of Life Institute, 22 mars 2023.
(2) M. Friedman, « The social responsibility of business is to increase its profits », The New York Times Magazine, 13 septembre 1970. On en trouvera une traduction et une analyse dans A. Anquetil, Qu’est-ce que l’éthique des affaires ?, Chemins Philosophiques, Vrin, 2008.
(3) Ibid.
(4) Une réduction à l’absurde (reductio ad absurdum) est un « raisonnement qui conduit à rejeter une assertion en faisant voir qu’elle aboutirait à une conséquence connue pour fausse, ou contraire à l’hypothèse elle-même » (A. Lalande, Vocabulaire technique et critique de la philosophie, 18ème édition, PUF, 1996). Sur l’usage d’un tel raisonnement par Friedman, voir M. Bennett, « Managerial discretion, market failure and democracy », Journal of Business Ethics, 2022.
(5) Voir A. Anquetil, op. cit.
