El gobernador Gavin Newsom firmó una orden ejecutiva que establece nuevos estándares para el uso de IA en el gobierno estatal y para las empresas que contraten con él, priorizando la privacidad y la seguridad de los datos.
El estado de California, en Estados Unidos, ha dado un paso significativo en la regulación de la inteligencia artificial. El gobernador Gavin Newsom firmó una orden ejecutiva que apunta a establecer controles más estrictos para las empresas del sector y a consolidar un uso responsable de estas herramientas dentro de la administración estatal.
La nueva normativa obliga a las compañías de inteligencia artificial que deseen trabajar con el gobierno de California a demostrar políticas claras que prevengan el uso indebido de sus sistemas. También exige estándares elevados en materia de protección de datos, con el objetivo central de evitar que estas tecnologías puedan ser utilizadas para explotar información personal o vulnerar derechos fundamentales.
En un comunicado, Newsom sostuvo que California, como líder en innovación, debe actuar con responsabilidad frente a los riesgos asociados al avance tecnológico. Remarcó que la inteligencia artificial representa una oportunidad, pero también implica desafíos que requieren regulación.
La orden ejecutiva también contempla la ampliación del uso de inteligencia artificial generativa en servicios públicos. Entre las iniciativas previstas se encuentra el desarrollo de herramientas que faciliten el acceso de los ciudadanos a programas estatales, como asistencia para iniciar un negocio o encontrar empleo, con el fin de mejorar la eficiencia y la interacción con la población.
Otro punto clave del plan incluye la creación de nuevas pautas para evaluar a las empresas tecnológicas. Estas evaluaciones considerarán factores como la presencia de sesgos en los modelos, la prevención de contenido ilegal y el respeto por la libertad de expresión. Además, el estado podrá desvincular sus procesos de contratación de los lineamientos federales si lo considera necesario.
La administración también ordenó el desarrollo de recomendaciones para identificar contenido manipulado por inteligencia artificial, como imágenes o videos alterados (conocidos como «deepfakes»). El impacto de la IA en el empleo constituye otro eje central de la estrategia, para lo cual se planea ampliar la participación ciudadana a través de una plataforma digital que permitirá a los residentes aportar opiniones sobre políticas vinculadas al uso de estas tecnologías.
Con esta medida, California busca consolidar un modelo que combine innovación con protección, en un intento por establecer estándares que podrían influir en el resto del país.