En un discurs a l'ambaixada dels Estats Units, Harris va dir que el món ha de començar a actuar ara per abordar "tot l'espectre" dels riscos d'IA, no només amenaces existencials com ara ciberatacs massius o armes biològiques formulades per IA.
"Hi ha amenaces addicionals que també exigeixen la nostra acció, amenaces que actualment estan causant danys i que a moltes persones també se senten existencials", va dir, citant que una persona gran va iniciar el seu pla d'atenció mèdica a causa d'un algorisme d'IA defectuós o d'una dona amenaçada per una parella abusiva amb fotos falses profundes.
L'AI Safety Summit és un treball d'amor per a Sunak, un antic banquer amant de la tecnologia que vol que el Regne Unit sigui un centre per a la innovació informàtica i ha emmarcat la cimera com l'inici d'una conversa global sobre el desenvolupament segur de la IA.
Harris assistirà dijous a la cimera, unint-se a funcionaris governamentals de més de dues dotzenes de països, inclosos el Canadà, França, Alemanya, l'Índia, el Japó, l'Aràbia Saudita i la Xina, convidats per les protestes d'alguns membres del Partit Conservador que governa Sunak.
Aconseguir que les nacions signessin l'acord, batejat com la Declaració de Bletchley, va ser un assoliment, encara que sigui poc detallat i no proposi una manera de regular el desenvolupament de la IA. Els països es van comprometre a treballar per aconseguir un "acord i responsabilitat compartides" sobre els riscos de la IA i celebrar una sèrie de reunions posteriors. Corea del Sud celebrarà una mini cimera virtual d'IA d'aquí a sis mesos, seguida d'una en persona a França d'aquí a un any.
El viceministre de Ciència i Tecnologia de la Xina, Wu Zhaohui, va dir que la tecnologia d'IA és "incerta, inexplicable i manca de transparència".
“Aporta riscos i reptes en ètica, seguretat, privadesa i equitat. La seva complexitat està sorgint", va dir, assenyalant que el president xinès Xi Jinping va llançar el mes passat la Iniciativa global del país per a la governança de l'IA.
"Demanem la col·laboració global per compartir coneixements i posar a disposició del públic les tecnologies d'IA en termes de codi obert", va dir.
El director general de Tesla, Elon Musk, també té previst parlar d'IA amb Sunak en una conversa que es retransmetrà dijous a la nit. El multimilionari de la tecnologia va ser un dels que van signar una declaració a principis d'any per donar l'alarma sobre els perills que la IA suposa per a la humanitat.
També hi assistiran la presidenta de la Comissió Europea, Ursula von der Leyen, el secretari general de les Nacions Unides, Antonio Guterres, i executius d'empreses d'intel·ligència artificial nord-americanes com Anthropic, DeepMind i OpenAI de Google i científics informàtics influents com Yoshua Bengio, un dels "padrís" de la IA. la reunió a Bletchley Park, una antiga base secreta per als trencadors de codis de la Segona Guerra Mundial que es veu com el bressol de informàtica moderna.
Els assistents van dir que el format de la reunió a porta tancada ha fomentat un debat saludable. Les sessions informals de xarxa estan ajudant a generar confiança, va dir Mustafa Suleyman, director general d'Inflection AI.
Mentrestant, en les discussions formals “la gent ha pogut fer declaracions molt clares, i aquí és on es veuen importants desacords, tant entre països del nord com del sud (i) països que estan més a favor del codi obert i menys a favor del codi obert. font", va dir Suleyman als periodistes.
Els sistemes d'IA de codi obert permeten als investigadors i experts descobrir ràpidament problemes i abordar-los. Però l'inconvenient és que un cop s'ha llançat un sistema de codi obert, "qualsevol pot utilitzar-lo i ajustar-lo amb finalitats malicioses", va dir Bengio al marge de la reunió.
“Hi ha aquesta incompatibilitat entre el codi obert i la seguretat. Llavors, com ho gestionem?"
Només els governs, no les empreses, poden protegir les persones dels perills de la IA, va dir Sunak la setmana passada. Tanmateix, també va instar a no precipitar-se per regular la tecnologia d'IA, dient que primer cal entendre-la completament.
En canvi, Harris va subratllar la necessitat d'abordar l'aquí i l'ara, inclosos "els danys socials que ja s'estan produint, com ara el biaix, la discriminació i la proliferació de la desinformació".
Va assenyalar l'ordre executiva del president Joe Biden d'aquesta setmana, que estableix les salvaguardes de la intel·ligència artificial, com a prova que els EUA lideren amb l'exemple a l'hora de desenvolupar regles per a la intel·ligència artificial que funcionin en l'interès públic.
Harris també va animar altres països a subscriure's en una promesa recolzada pels Estats Units d'adherir-se a l'ús "responsable i ètic" de la IA per a objectius militars.
"El president Biden i jo creiem que tots els líders... tenen el deure moral, ètic i social d'assegurar-se que la intel·ligència artificial s'adopti i avança d'una manera que protegeixi el públic de possibles danys i garanteixi que tothom pugui gaudir dels seus beneficis", va dir. va dir.
Hora de publicació: 21-nov-2023
