¿Preocupado por la IA? Cómo California planea abordar los riesgos tecnológicos en 2024

Jodi Long fue captada por una jaula llena de cámaras que captaron imágenes improvisadas de su rostro y cuerpo. “Me sorprendió un poco porque antes de entrar, Dije que no recuerdo que esto estuviera en mi contrato. dijo el actor. Los realizadores necesitaban un escaneo digital de ella. Porque querían asegurarse de que sus brazos estuvieran en la posición correcta en las escenas en las que llevaba el personaje generado por computadora. Ese momento en 2020 se quedó con Long, presidente de SAG-AFTRA local, con sede en Los Ángeles. Mientras tanto, estaba negociando protecciones para el uso de inteligencia artificial cuando los actores se declararon en huelga. en noviembre El Sindicato de Actores llega a un acuerdo con el estudio de Hollywood que está por encima de todo Se requiere consentimiento y compensación para el uso de modelos digitales de los trabajadores de SAG-AFTRA. La presidenta del área de Los Ángeles, Jodi Long (derecha), habla durante una manifestación en septiembre durante la huelga de los trabajadores federales. Sindicato de Actores (Richard Shotwell/Invision/Associated Press) El sindicato no es el único grupo que intenta limitar las amenazas potenciales de la IA: el gobernador Gavin Newsom firmó una orden ejecutiva sobre la IA en septiembre. California Propone promulgar un paquete de leyes que establecería reglas adicionales en 2024. Algunas de las propuestas se centran en proteger a los trabajadores. Luchar contra los sistemas de inteligencia artificial que pueden generar prejuicios raciales y de género y establecer nuevos requisitos para prevenir el uso indebido de la IA para delitos cibernéticos. Desarrollo de armas y propaganda Aún no está claro si California logrará aprobar una legislación sobre IA. Se enfrentarán al lobby de empresas tecnológicas multimillonarias, incluidas Microsoft, Google y Facebook, potencias políticas que han bloqueado con éxito varios proyectos de ley sobre IA presentados este año. La inteligencia artificial existe desde hace décadas. Pero a medida que la tecnología avanza rápidamente La capacidad de las máquinas para realizar tareas que involucran la inteligencia humana plantea la cuestión de si la IA reemplazará los empleos. Fomenta la difusión de información errónea. ¿O incluso conducir a la extinción de la humanidad? Mientras intentan regular la IA, también intentan comprender cómo funciona la tecnología para no obstaculizar sus beneficios potenciales y, al mismo tiempo, intentar mitigar sus daños. “Uno de los principales desafíos es ¿cómo funciona esta tecnología? lo que significa La misma tecnología que puede conducir a importantes mejoras en la atención sanitaria también puede utilizarse para causar daños graves”, afirmó Daniel Ho, profesor de la Facultad de Derecho de la Universidad de Stanford. El asesor de la Casa Blanca sobre política de inteligencia artificial dice que los políticos sienten una sensación de urgencia Señalan la resistencia que enfrentan al intentar frenar algunos de los problemas de salud mental y seguridad infantil que se han intensificado con las redes sociales y otros productos tecnológicos. Algunos ejecutivos de tecnología, sin embargo, dicen que no se oponen a la regulación. Pero también dicen que los críticos están exagerando los riesgos y expresan preocupación de que tendrán que lidiar con una combinación de reglas que varían en todo el mundo. TechNet, un grupo comercial que incluye compañías como Apple, Google y Amazon, ha descrito en sus sitios web cuáles son sus Los miembros apoyarán o no cuando se trata de la regulación de la IA. Por ejemplo, TechNet dice que los responsables políticos deberían evitarlo. “Una prohibición total de la inteligencia artificial. aprendizaje automático u otras formas de toma de decisiones automatizada” y no obliga a los desarrolladores de IA a compartir públicamente datos de propiedad exclusiva. El asambleísta estatal Ash Kalra (demócrata por San José) dijo que los formuladores de políticas no confían en que las empresas de tecnología se regulen a sí mismas. “Como legislador Mi intención es proteger al público y proteger a los trabajadores. y proteger contra riesgos potenciales de la IA no regulada», dijo Kalra. «Estos casos afectan a industrias con diferentes prioridades». La IA podría afectar a 300 millones de empleos a tiempo completo, según un informe del mes pasado. Goldman Sachs Abril En septiembre, Kalra introdujo una legislación que daría a los actores, actores de doblaje y otros empleados Hay formas de anular promesas vagas. que permite a los estudios y otras empresas Utilizando inteligencia artificial para clonar digitalmente sus voces, rostros y cuerpos, Kalra dijo que no tiene planes inmediatos de reservar el dinero. Respaldada por SAG-AFTRA, la propuesta federal también promulga legislación destinada a proteger las voces e imágenes de los trabajadores. El presidente Biden firmó una orden ejecutiva sobre IA en octubre. Afirma que esta tecnología puede mejorar la eficiencia de la producción. ¿Pero también cómo sustituir a los trabajadores? El presidente Biden y el gobernador Gavin Newsom en un debate en junio sobre inteligencia artificial. Biden y Newsom emitieron y firmaron órdenes ejecutivas sobre IA. (Susan Walsh/Associated Press) Duncan Crabtree-Ireland El director ejecutivo nacional y negociador principal de SAG-AFTRA dijo que cree que es importante que los liberales estatales y federales regulen la IA sin demora: «Tiene que provenir de una variedad de fuentes, y [be] «Nos unimos de una manera que cree la imagen definitiva que todos queremos ver», afirmó. Los responsables de la formulación de políticas fuera de Estados Unidos ya han dado un paso al frente. en diciembre El Parlamento Europeo y los estados miembros de la UE han llegado a un acuerdo histórico sobre la Ley de IA, calificando la propuesta como «la primera ley integral de IA del mundo». La ley consiste en un conjunto de reglas. Depende de qué tan vulnerable sea el sistema de IA. También requiere herramientas de inteligencia artificial que generen texto, imágenes y otros contenidos, como ChatGPT de OpenAI, para publicar los datos protegidos por derechos de autor que se utilizan para entrenar el sistema. A medida que los gobiernos federal y estatal afinan las leyes, los empleados analizan cómo la IA afecta su trabajo. y comprobar si las leyes actuales proporcionan una protección adecuada. Empresas tecnológicas como OpenAI, Stability AI, la empresa matriz de Facebook, Meta y Anthropic, respaldadas por Microsoft, se enfrentan a demandas por acusaciones de que utilizaron trabajos protegidos por derechos de autor de artistas y escritores para entrenar sus sistemas de inteligencia artificial. El miércoles, el New York Times presentó una demanda contra Microsoft y OpenAI. , acusando a la empresa de tecnología de utilizar trabajos protegidos por derechos de autor para crear productos de inteligencia artificial que competirían con las agencias de noticias, dijo Tim Friedlander, presidente y cofundador de la Asociación Nacional de Actores de Voz, que sus miembros estaban perdiendo sus empleos porque algunas empresas decidieron usar inteligencia artificial. «Voces generadas. Los intérpretes también acusaron sus voces de ser clonadas sin su consentimiento o compensación, lo cual es un problema que también enfrentan los músicos. «Una de las cosas que es difícil en este momento es que no hay manera de demostrar que algo es humano o sintético. o poder acreditar dónde se encuentra. Ese ruido proviene de», dijo. La protección de los trabajadores es solo uno de los problemas de IA que California intentará resolver en 2024. En septiembre, el senador Scott Wiener (demócrata por San Francisco) presentó la Ley de Protección de la IA. La Ley de Seguridad en la Inteligencia Artificial tiene como objetivo abordar los mayores riesgos que plantea la IA, dijo, incluido el uso indebido de la tecnología en armas químicas y nucleares. interferencia electoral y ciberataques Aunque el supervisor no lo quiera. «Exprimen la innovación», pero también quieren ser proactivos, afirmó Wiener. «Si no se avanza, Para cuando sea demasiado tarde, y lo hemos visto en las redes sociales y otras áreas, deberíamos implementar un sistema más amplio de gobernanza de los accidentes cerebrovasculares al menos antes de que comience el problema», dijo. A los legisladores también les preocupa que los sistemas de inteligencia artificial puedan introducir errores que conducen a un trato desigual de las personas basado en características protegidas como la raza y el género. La asambleísta Rebecca Bauer-Kahan (D-Orinda) apoya un proyecto de ley que prohibiría a individuos o entidades implementar sistemas de inteligencia artificial o servicios relacionados. «decisiones consecuentes» que resultan en La ‘discriminación algorítmica’ teme que los algoritmos puedan amplificar el género y prejuicios raciales debido a qué datos se utilizan para entrenar sistemas informáticos. Es un problema constante en la industria tecnológica. Amazon descartó su herramienta de reclutamiento de inteligencia artificial porque estaba sesgada contra las mujeres después de que se entrenaron modelos de computadora con currículums que eran en su mayoría de hombres, informó Reuters en 2018 sobre la aprobación de la legislación sobre inteligencia artificial. difícil. El proyecto de ley de Bauer-Kahan ni siquiera fue enviado a la Cámara para su votación. El análisis de la ley AB 331 establece que las industrias y empresas expresó su preocupación porque la ley es demasiado amplia y puede resultar en «Demasiada regulación en este ámbito». Sin embargo, Bauer-Kahan dijo que planea volver a presentar el proyecto de ley en 2024 a pesar de la oposición. Ella enfrentó la última sesión. “No es que quiera que estas herramientas desaparezcan. Pero quiero asegurarme de que cuando lleguen al mercado Sabemos que estas herramientas no discriminarán», dijo. «El equilibrio no es mucho pedir». Tratar de determinar qué cuestiones priorizar cuando se discuten los riesgos potenciales de la IA es un desafío. Otro desafío que enfrentarán los políticos en 2024 es que Los proyectos de ley controvertidos pueden ser difíciles de aprobar en un año. “Si al menos no hay acuerdo sobre la priorización de los peligros, ¿Y cuál es el asunto más urgente? «Aunque no es muy eficaz, puede ser difícil determinar cuál es la forma más efectiva de intervención», dijo Ho, profesora de la Facultad de Derecho de Stanford. Aunque la IA está plagada de temores, Long dijo que todavía es optimista sobre el futuro. Ha protagonizado películas taquilleras como “Shang-Chi y la leyenda de los diez anillos” de Marvel y en 2021 se convirtió en la primera estadounidense de origen asiático en ganar un Emmy diurno a la mejor interpretación de un actor. Papel secundario en el programa de Netflix “Dash and Lily” «Mi industria es un proceso de colaboración entre muchos seres humanos», dice. «Y mientras tengamos seres humanos contando nuestras historias, Creo que estaremos bien”.

Source link