L’IA est-elle responsable de ses hallucinations ?

Un Jugement rendu en Allemagne a rendu la société Google responsable de la production de son « aperçu IA ».

De quoi donner à réfléchir avant de mettre sur le marché des outils dont la fiabilité n’est pas parfaite.

Les questions juridiques qui suivront seront notamment :

• Celle de l’exploitation (aspiration et « raffinage ») des données des utilisateurs, sans leur consentement, puisque la pratique est contraire à l’ensemble des textes législatifs européen ;
• Celle de la responsabilité individuelle des administrateurs des sociétés qui produisent et exploitent ou distribuent des outils d’IA ;

En conséquence de quoi, je pense que les outils spécialisés, dédiés à tel ou tel métier bien spécifique, des IA fiables et « souveraines », y compris à l’échelle des données des PME, représentent moins de risques juridiques pour leurs producteurs que les IA généralistes dont, en outre, les réponses seront très bientôt biaisées de façon difficilement détectables par la publicité ou selon des schémas tout aussi opaques aux objectifs bien moins commerciaux.

Au-delà de cela, entre Palantir qui a été créée par l’Etat et la Maison Blanche qui coupe l’accès de quantité de pays à la version la plus évoluée de Claude, l’IA d’Anthropic, cette industrie est clairement plus appelée à dépendre des évolutions du droit que du marché : si les modèles les plus puissants deviennent soumis à autorisation, alors leur commercialisation internationale devient, à minima, moins prévisible.

Avec des investissements aussi massifs que ceux que cette industrie lourde requiert, la moindre restriction peut faire très mal et, parallèlement, les aléas commencent à s’empiler.

Yahoo ! a, elle aussi, été la première capitalisation du monde et battait tous les records. C’était il y a vingt ans à peine. Son business model était plus simple, moins stratégique, nécessitant infiniment moins de capitaux. A priori, moins risqué, donc…