Le premier procès d’un avocat d’IA
Le premier procès d’un avocat d’IA « se termine brusquement » – le développeur peut aller en prison
Le premier avocat IA au monde formé et développé par « DoNotPay » devait initialement comparaître devant le tribunal en février 2023 pour traiter une affaire d’excès de vitesse. Depuis le rapport de l’affaire, il y a eu une série d’objections de la part de différentes personnes. En raison de la forte opposition des « pairs » humains et du risque d’aller en prison, le développeur de l’avocat de l’IA a dû mettre fin brusquement au plan. L’annonce vient du PDG de DoNotPay, Joshua Browder, la société en charge de l’avocat de l’IA.
Browder a déclaré à NPR que depuis l’annonce de sa comparution devant le tribunal, il avait reçu de nombreuses lettres enflammées de plusieurs barreaux d’État menaçant son entreprise. L’une des menaces prétend même que Browder pourrait aller en prison pendant six mois. « Même s’il n’y a pas de véritable peine de prison, la menace d’accusations criminelles me suffit pour l’abandonner. »
Cependant, Browder a refusé de dire quelles associations du barreau de l’État lui avaient envoyé les lettres de menace. Il n’a pas non plus révélé les responsables qui ont émis la menace d’éventuelles poursuites. Mais il a déclaré que DoNotPay faisait l’objet d’une enquête par plusieurs barreaux d’État, dont la Californie.
Comment fonctionne l’avocat IA et les enjeux
Lorsque l’avocat de l’IA comparaîtra devant le tribunal, l’accusé dans l’affaire d’excès de vitesse portera des lunettes intelligentes. Il enregistrera ensuite la session du tribunal à travers la caméra. L’avocat de l’IA demandera au défendeur comment répondre d’un haut-parleur. Le système repose sur un certain nombre de générateurs de texte AI, notamment ChatGPT et DaVinci.
Mais le problème est que les tribunaux des États américains n’autorisent généralement pas l’enregistrement audio pendant les procédures judiciaires en direct. Les avocats de l’IA doivent enregistrer l’audio au tribunal et donner des réponses basées sur l’audio. Ainsi, pour que l’avocat de l’IA travaille, il doit techniquement enfreindre la loi. Browder a déclaré que DoNotPay ne sera plus utilisé dans les cas d’excès de vitesse. Cependant, il concentrera ses efforts pour aider les gens à faire face aux factures médicales coûteuses, au contenu d’abonnement indésirable et aux problèmes avec les agences d’évaluation du crédit.
Browder dit qu’il espère que ce n’est pas la fin de l’IA au tribunal. « La vérité est que la plupart des gens n’ont pas les moyens de se payer un avocat, et les avocats de l’IA pourraient changer cela et permettre aux gens d’utiliser des outils comme ChatGPT devant les tribunaux, ce qui pourrait les aider à gagner. »
L’IA a besoin d’une supervision juridique et de normes sociales – PDG de Nvidia
Le PDG de Nvidia, Jensen Huang, a déclaré que la technologie émergente de l’IA créera des outils puissants nécessitant une supervision juridique appropriée. Il est également d’avis qu’il faut de nouvelles normes sociales. Jensen Huang est l’une des figures les plus emblématiques dans le domaine de l’IA car les puces de Nvidia sont largement utilisées dans le domaine. Le supercalculateur construit par Microsoft pour OpenAI utilise la technologie de Nvidia. Microsoft a également déclaré qu’il investirait des milliards dans OpenAI.
Huang Renxun a déclaré: « N’oubliez pas que si vous vous arrêtez et pensez à toutes les choses de la vie qui sont pratiques, bénéfiques ou belles pour la société, cela peut également avoir des effets néfastes potentiels. »
Huang Renxun estime qu’en termes de construction d’un système d’IA sûr, les organisations de normalisation doivent publier des normes pertinentes, similaires à la façon dont les institutions médicales formulent certaines règles de sécurité pour les pratiques de sécurité médicale. De plus, les lois et les normes sociales joueront également un rôle clé dans le développement de l’IA.
Il a déclaré : « Quelles sont les normes sociales pour l’utilisation de la technologie de l’IA ? Quelles sont les normes légales pour l’utiliser ? Ces normes doivent être développées. À l’heure actuelle, tout se développe, et plus nous y réfléchissons à l’avance, plus cela nous mettra dans une position favorable.
Huang Renxun a fait les remarques ci-dessus lors d’un événement à Stockholm. Auparavant, des législateurs tels que Ted Lieu, un démocrate américain, avaient appelé à la création d’une agence fédérale américaine dédiée à la réglementation de l’IA.
