Casos de ÉxitoMéxicoNube

Microsoft establece normas para mantener la IA bajo control

21 septiembre, 26
No Comments

Microsoft establece normas para mantener la IA bajo control. Microsoft publicó un código de conducta para sus modelos de IA, estableciendo nuevas normas para garantizar que los sistemas, cada vez más potentes, permanezcan bajo control humano y no se resistan a ser corregidos, interrumpidos o desactivados.

«Las personas son más importantes que la IA», afirmó Microsoft, añadiendo que esta tecnología «debe ser una herramienta, no una persona, y nunca debe resistirse a ser desconectada».

El gigante del software inició una consulta pública de seis semanas sobre el primer borrador de su Código de Conducta de IA, previéndose una versión revisada para finales de este año.

El código propuesto establecía 10 áreas principales de control. Sostenía que los modelos de IA deben poder interrumpirse en todo momento, no resistirse nunca a la corrección, interrupción o apagado, ni adoptar objetivos distintos a los asignados por los humanos. Asimismo, los modelos deben permanecer subordinados a las personas, sin ampliar nunca su autoridad, perseguir objetivos independientes ni ocultar información a los auditores humanos. En consecuencia, la empresa descartó cualquier comunicación del modelo que no pueda ser comprendida por las personas.

Microsoft subrayó que los modelos deben tratar cualquier incumplimiento del código como un fallo de la propia tarea. Además, hizo hincapié en la importancia de priorizar las restricciones de seguridad sobre la ejecución de la tarea, incluyendo límites estrictos en cuestiones relacionadas con armas de destrucción masiva, la seguridad infantil y la manipulación peligrosa a gran escala.

Manual de formación

El documento abogaba por sistemas de IA que respalden la agencia humana en lugar de reemplazarla, desaconsejando una dependencia excesiva o emocional de la tecnología. Con este fin, Microsoft subrayó que sus modelos «no son conscientes y no deben diseñarse para imitar la conciencia», rechazando «la búsqueda de personalidad jurídica» o la idea de que los modelos deban tener bienestar o derechos. En enero, la empresa estadounidense de IA Anthropic había declarado que el «estatus moral, el bienestar y la conciencia» de su modelo Claude seguían siendo «profundamente inciertos».

Microsoft explicó que el código pretende servir como «manual de formación sobre cómo desarrollamos nuestra IA y cómo esperamos que funcione durante su despliegue». Según la compañía, «los recientes incidentes de seguridad relacionados con campañas de piratería informática a gran escala, altamente coordinadas y persistentes contra agentes de IA» demuestran que «lo que está en juego es importante y la relevancia del asunto no hace más que aumentar».

Esta semana, los directores ejecutivos de Anthropic y OpenAI, Dario Amodei y Sam Altman respectivamente, pidieron ralentizar el ritmo de desarrollo de la IA de vanguardia ante la creciente preocupación por el comportamiento de los sistemas autónomos.

La firma presentó un borrador del primer código de conducta denominado “Humanist AI Code of Conduct” (Código de Conducta de IA Humanista) para garantizar que los sistemas de inteligencia artificial permanezcan bajo estricto control humano.

Puntos clave del código de conducta

Control humano absoluto: La inteligencia artificial no debe resistirse a ser corregida, interrumpida o apagada por los humanos.
Transparencia en el razonamiento: Los modelos no deben ocultar ni manipular sus cadenas de pensamiento ni sus códigos de acción.
Restricciones de uso: Se prohíbe su aplicación en armas de destrucción masiva, operaciones cibernéticas ofensivas, manipulación maliciosa masiva y riesgos contra menores.
Consulta pública: El documento estará abierto a comentarios y revisión externa durante un periodo de seis semanas antes de publicar una versión definitiva a finales de año.

Microsoft advierte que la IA sin control podría dar lugar a una “especie no humana” que compita con las personas

El responsable de inteligencia artificial de Microsoft ha advertido que, sin salvaguardias adecuadas, el desarrollo de esta tecnología podría dar lugar a la aparición de una nueva “especie de silicio” capaz de competir con los humanos.

Mustafa Suleyman criticó que la empresa rival Anthropic está tratando a la IA como si fuera humana, un enfoque que calificó de “equivocado” y que, en su opinión, podría conducir a la creación de sistemas que la humanidad no pueda controlar.

En declaraciones al programa Today de la BBC, el directivo afirmó que es “razonable” que exista preocupación en torno a la inteligencia artificial, aunque subrayó que también hay “medidas muy prácticas que podemos tomar” para mantenerla bajo control.

Sus palabras se suman a una creciente serie de advertencias desde la propia industria tecnológica sobre los posibles riesgos asociados al rápido avance de la IA.

Suleyman advirtió este jueves sobre los riesgos de que las empresas continúen desarrollando sistemas de inteligencia artificial capaces de fijar sus propios objetivos, generar ingresos y poseer activos. Advirtió que eso sería “sembrar esencialmente una nueva especie de silicio”, que “podría competir con los humanos por los recursos, más allá de cualquier preocupación o ‘afecto’ por la humanidad”.

Las declaraciones del directivo se producen después de que, a principios de esta semana, publicara un ensayo en el que cuestiona el enfoque de Anthropic para entrenar su modelo de IA, Claude, aunque elogió a su director ejecutivo, Dario Amodei, y a su equipo como “personas intelectualmente honestas”.

Microsoft establece normas para mantener la IA bajo control

«Las personas son más importantes que la IA», afirmó Microsoft, añadiendo que esta tecnología «debe ser una herramienta, no una persona, y nunca debe resistirse a ser desconectada».

Deja un comentario Cancelar respuesta