En un discurs a l'ambaixada dels Estats Units, Harris va dir que el món ha de començar a actuar ara per abordar "tot l'espectre" de riscos de la IA, no només les amenaces existencials com ara els ciberatacs massius o les armes biològiques formulades per IA.
«Hi ha amenaces addicionals que també exigeixen la nostra acció, amenaces que actualment estan causant danys i que per a molta gent també semblen existencials», va dir, citant un ancià que va ser expulsat del seu pla d'atenció mèdica a causa d'un algoritme d'IA defectuós o una dona amenaçada per una parella abusiva amb fotos falses.
La Cimera de Seguretat de la IA és una obra feta per amor per Sunak, un exbanquer amant de la tecnologia que vol que el Regne Unit sigui un centre d'innovació informàtica i ha emmarcat la cimera com l'inici d'una conversa global sobre el desenvolupament segur de la IA.
Harris ha d'assistir a la cimera dijous, juntament amb funcionaris governamentals de més de dues dotzenes de països, com ara Canadà, França, Alemanya, Índia, Japó, Aràbia Saudita i Xina, convidats per les protestes d'alguns membres del Partit Conservador governant de Sunak.
Aconseguir que les nacions signessin l'acord, anomenat Declaració de Bletchley, va ser un èxit, tot i que és poc detallat i no proposa una manera de regular el desenvolupament de la IA. Els països es van comprometre a treballar per aconseguir un "acord i responsabilitat compartits" sobre els riscos de la IA i a celebrar una sèrie de reunions addicionals. Corea del Sud celebrarà una mini cimera virtual sobre IA d'aquí a sis mesos, seguida d'una altra presencial a França d'aquí a un any.
El viceministre de Ciència i Tecnologia de la Xina, Wu Zhaohui, va dir que la tecnologia d'IA és "incerta, inexplicable i manca de transparència".
«Comporta riscos i reptes en ètica, seguretat, privacitat i equitat. La seva complexitat està emergint», va dir, assenyalant que el president xinès Xi Jinping va llançar el mes passat la Iniciativa Global per a la Governança de la IA del país.
«Demanem la col·laboració global per compartir coneixement i posar les tecnologies d'IA a disposició del públic en termes de codi obert», va dir.
El CEO de Tesla, Elon Musk, també té previst parlar sobre la IA amb Sunak en una conversa que es retransmetrà en directe dijous a la nit. El multimilionari tecnològic va ser un dels que van signar una declaració a principis d'aquest any que alertava sobre els perills que la IA representa per a la humanitat.
La presidenta de la Comissió Europea, Ursula von der Leyen, el secretari general de les Nacions Unides, Antonio Guterres, i executius d'empreses d'intel·ligència artificial nord-americanes com Anthropic, DeepMind de Google i OpenAI, i influents informàtics com Yoshua Bengio, un dels "padrins" de la IA, també assisteixen a la reunió a Bletchley Park, una antiga base secreta per a desxifradors de codis de la Segona Guerra Mundial que es considera el bressol de la informàtica moderna.
Els assistents van dir que el format de la reunió a porta tancada ha estat fomentant un debat saludable. Les sessions informals de networking ajuden a generar confiança, va dir Mustafa Suleyman, CEO d'Inflection AI.
Mentrestant, en debats formals "la gent ha pogut fer declaracions molt clares, i aquí és on es veuen desacords significatius, tant entre els països del nord com entre els del sud (i) els països que estan més a favor del codi obert i menys a favor d'aquest", va dir Suleyman als periodistes.
Els sistemes d'IA de codi obert permeten als investigadors i experts descobrir problemes i abordar-los ràpidament. Però l'inconvenient és que, un cop s'ha publicat un sistema de codi obert, "qualsevol el pot utilitzar i ajustar amb finalitats malicioses", va dir Bengio al marge de la reunió.
«Hi ha aquesta incompatibilitat entre el codi obert i la seguretat. Aleshores, com ho afrontem?»
Només els governs, no les empreses, poden protegir les persones dels perills de la IA, va dir Sunak la setmana passada. Tanmateix, també va instar a no precipitar-se a regular la tecnologia de la IA, dient que primer cal entendre-la completament.
En canvi, Harris va emfatitzar la necessitat d'abordar el aquí i ara, incloent-hi "els danys socials que ja s'estan produint, com ara els biaixos, la discriminació i la proliferació de la desinformació".
Va assenyalar l'ordre executiva del president Joe Biden aquesta setmana, que estableix salvaguardes per a la IA, com a prova que els Estats Units estan donant exemple en el desenvolupament de normes per a la intel·ligència artificial que funcionen en l'interès públic.
Harris també va animar altres països a signar un compromís recolzat pels Estats Units per mantenir un ús "responsable i ètic" de la IA amb finalitats militars.
«El president Biden i jo creiem que tots els líders... tenen el deure moral, ètic i social d'assegurar-se que la IA s'adopti i es desenvolupi de manera que es protegeixi el públic de possibles danys i es garanteixi que tothom pugui gaudir dels seus beneficis», va dir.
Data de publicació: 21 de novembre de 2023
