Senadores Demócratas Expresan Preocupaciones a OpenAI sobre Seguridad y Prácticas Laborales en Inteligencia Artificial
La carta de los demócratas del Senado a OpenAI
Un grupo de cinco destacados senadores demócratas, entre los que se encuentran Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner y Angus S. King, Jr., ha enviado una carta al CEO de OpenAI, Sam Altman. En ella, se plantean preocupaciones críticas respecto a la seguridad y la gestión del empleo en la compañía, especialmente en lo referente a los sistemas de inteligencia artificial (IA) que desarrolla OpenAI.
Preocupaciones sobre seguridad y prácticas laborales
Los senadores demandan información detallada sobre cómo OpenAI asegura que sus sistemas de IA no sean mal utilizados. En particular, solicitan datos sobre los compromisos públicos que ha hecho la empresa en relación con la seguridad, incluidos esfuerzos para prevenir que su tecnología proporcione información dañina, como instrucciones para la creación de armas o la programación de malware.
Adicionalmente, han expresado su preocupación por el tratamiento que reciben los empleados que levantan alertas sobre problemas de seguridad. Los senadores han solicitado garantías de que dichos empleados no serán silenciados o castigados por sus advertencias, así como la eliminación de las cláusulas de no desprestigiar de los acuerdos laborales.
Compromiso con la investigación en seguridad de la IA
La carta también indaga sobre las medidas de ciberseguridad que tiene OpenAI en su lugar para proteger sus modelos de IA y su investigación de posibles robos o abusos. Se sugiere la inclusión de expertos independientes en los procesos de auditoría de los mecanismos de seguridad de la IA, lo que podría ayudar a incrementar la credibilidad de los esfuerzos de la empresa.
Los senadores están revisando el compromiso de OpenAI de destinar el 20% de su capacidad computacional a la investigación en seguridad de IA, un compromiso que ha sido objeto de escrutinio reciente. Este llamado a la transparencia surge en el contexto de una queja de un denunciante presentada ante la Comisión de Bolsa y Valores (SEC), que alega que OpenAI ha silenciado advertencias internas sobre los riesgos asociados con la IA.
En un contexto más amplio, la carta refleja tendencias de la industria que favorecen la transparencia y la rendición de cuentas. Los senadores subrayan la importancia de construir la confianza pública en los sistemas de OpenAI, especialmente considerando sus asociaciones con el gobierno de EE. UU. y agencias de seguridad nacional. La correspondencia sugiere que el diálogo entre OpenAI y las entidades gubernamentales será vital para formar un marco ético y regulador en el ámbito de la inteligencia artificial.
```
Comentarios
Publicar un comentario