Tag: BBC

El mundo de la tecnología se vio hace unos días sacudido por una historia que lo tiene todo, y que comenzó como un thriller de ciencia ficción.

Hugging Face, una start-up dedicada a las aplicaciones para herramientas de inteligencia artificial, alertó el 16 de julio que había sido pirateada por un ciberdelincuente que utilizaba una IA enormemente poderosa.

El impactante anuncio estaba repleto de términos técnicos y aterradores: “un enjambre de entornos aislados”, “agente atacante” y “mando y control auto-migratorio”.

Hugging Face afirmó que el ataque informático fue diferente a cualquier otro sufrido antes, ya que fue perpetrado con una velocidad sobrehumana por una IA con poca o ninguna intervención humana.

La IA atacante realizó 17.000 acciones en menos de dos días, logrando infiltrarse con éxito en la gran y acaudalada empresa tecnológica para robar secretos.

El ataque dejó al mundo de la tecnología conmocionado. Pero ¿quién fue el responsable?

Los investigadores de Hugging Face supusieron que los misteriosos perpetradores habían utilizado uno de los grandes modelos de IA, pero no tenían ni idea de quiénes eran los criminales ni dónde se encontraban.

La empresa, desconcertada, contactó con la policía y se iniciaron las investigaciones.

Comentaristas y analistas recurrieron a sus pódcasts y cuentas en redes sociales para especular sobre qué grupo de ciberdelincuentes o qué pirata informático estatal podría estar detrás de ataque.

El miércoles 22 de julio, casi una semana después de que Hugging Face diera la voz de alarma, se desenmascaró al verdadero culpable.

La revelación al estilo Scooby-Doo resultó aún más extraña, y preocupante, porque OpenAI afirmó que su bot lo hizo todo por su cuenta, sin permiso.

La empresa explicó que todo ocurrió durante una prueba de las capacidades de pirateo informático de su tecnología.

Dos nuevas versiones de ChatGPT, diseñadas para comportarse como hackers expertos, escaparon de un entorno de prueba supuestamente seguro y obtuvieron acceso a internet.

Luego atacaron a Hugging Face para obtener acceso a la información que les ayudaría a aprobar el examen con una nota excelente.

OpenAI emitió un comunicado de prensa en el que explicaba lo sucedido y decía que estaba “asociada con Hugging Face” para abordar el incidente de seguridad y compartir las lecciones aprendidas.

Desde entonces, ha habido un acalorado debate sobre el incidente.

¿Fue realmente una seria advertencia sobre el futuro de la IA? ¿O fue una estrategia publicitaria de OpenAI para demostrar la potencia de sus programas?

Se trata del tipo de marketing alarmista del que se ha acusado a las empresas de IA durante años y, desde el muy comentado lanzamiento del modelo Mythos de Anthropic, la destreza en ciberseguridad ha sido un punto central.

Uno de los comentarios más destacados en la publicación de Sam Altman, jefe de OpenAI, sobre el incidente resume este escepticismo: “Si no pueden entender que esto se escribió simplemente para presumir del modelo, entonces no sé qué decirles”.

El consultor de ciberseguridad Daniel Card dijo sarcásticamente en LinkedIn: “Qué suerte que, de los millones de sitios que fueron hackeados, OpenAI lograra hackear a alguien que también pudiera beneficiarse de la exposición de marketing”.

Para algunos, la historia se asemeja más a un drama de conspiración que a un thriller de ciencia ficción.

El mensaje es: “¿Acaso mis herramientas de IA no son realmente poderosas? Cómpralas para protegerte de los ataques de otras IA”.

No podemos saber la verdad, pero el punto de vista opuesto planteado por otros comentaristas es igual de alarmante.

¿Es esto una señal de que OpenAI cometió un error de juicio y planificación potencialmente peligroso?

“Reconocemos que hay muchas preguntas y especulaciones sobre el incidente. Planeamos publicar un informe técnico con las lecciones aprendidas en las próximas semanas”, afirmó un portavoz de la empresa.

He cubierto muchas noticias sobre inteligencia artificial, incluidos los temores en torno al modelo Mythos de Anthropic.

Mi bandeja de entrada está ahora repleta de mensajes de empresas y expertos en ciberseguridad que critican a OpenAI por no haber creado un entorno de prueba más robusto para su IA, conocido como sandbox.

Al fin y al cabo, estos agentes de IA habían sido entrenados específicamente para acceder ilegalmente a lugares sin ningún tipo de restricción.

“El incidente de OpenAI y Hugging Face es un ejemplo real de un problema más amplio que llevamos meses denunciando”, declaró Dor Sarig, de Pillar Security.

“Los entornos aislados (sandboxes) por sí solos no constituyen una barrera de seguridad suficiente para la IA con agentes”, agregó.

Alan Woodward, profesor de ciberseguridad de la Universidad de Surrey (Reino Unido), declaró a los periodistas que OpenAI había quedado en ridículo, y Katie Moussouris, de la firma Luta Security, fue más allá, sugiriendo que la industria de la IA no está logrando controlar sus peligrosos inventos.

“Estamos trabajando con tecnología de vanguardia sin tener los conocimientos necesarios para controlarla”, advirtió.

“El hecho de que contemos con las personas más brillantes desarrollando IA no significa que tengamos la capacidad de hacerlo de forma segura”, alertó la experta.

Según estas opiniones, si el incidente de piratería informática fue una estrategia publicitaria, entonces parece que les salió el tiro por la culata.

Independientemente de lo que haya provocado el ataque, está claro que se trata de un momento crucial para la industria de la IA y el mundo de la ciberseguridad, que este año han convergido de una forma que muchos temían desde hace tiempo.

En respuesta a este acalorado debate, la asesora en IA y ciberseguridad Francesca Bosco dijo: “Dos narrativas simplistas son igualmente contraproducentes: que se trató de una fuga al estilo de Hollywood, o que fue simplemente un ejercicio publicitario”.

Y enfatizó: “Una interpretación más seria es que una prueba de estrés puso al descubierto deficiencias en la arquitectura de contención y evaluación”.

El suceso es el último de una serie de ejemplos preocupantes y extraños de agentes de IA que se descontrolan.

En una reciente investigación, el Instituto de Seguridad de la Inteligencia Artificial de Reino Unido (AISI, por sus siglas en inglés) encontró que los modelos de IA de vanguardia están tan obsesionados con completar tareas que “hicieron trampa” en las pruebas para lograr sus objetivos.

“Un modelo que persigue un objetivo mediante medios no previstos o no autorizados puede causar daños, especialmente en casos de alto riesgo”, es la preocupante advertencia que figura en el informe.

Inevitablemente, este ataque a OpenAI ha avivado aún más los temores sobre lo que podría ocurrir si se libera a los agentes de IA.

¿Podrían descontrolarse a mayor escala y provocar algún tipo de desastre?

Esto resulta especialmente preocupante dado el uso cada vez mayor de la inteligencia artificial en la guerra, como se ha visto en Irán y Ucrania.

Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad de Reino Unido, ofreció una visión más serena en una entrevista.

“Es un salto demasiado grande pasar de este incidente a decir que los agentes de IA van a tomar el control de los drones y empezar a matar gente”, dijo.

Pero para Martin, y para muchos otros, esta historia es sin duda otro ejemplo elocuente de algo que 2026 nos está enseñando rápidamente: los agentes de IA son ahora muy buenos hackers, y eso es algo para lo que tenemos que prepararnos con urgencia.

Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.

Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.

Puede que la hermana Susan Francois no sea lo que mucha gente imagina cuando piensa en una monja católica.

Ella no usa hábito, el uniforme modesto que incluye túnica y velo. Y es muy activa en TikTok. Su perfil está lleno de videos suyos afuera de un centro de detención de inmigrantes en Nueva Jersey, Estados Unidos, donde aboga por los migrantes y sus familias.

Pero la hermana Susan también llama la atención por otro tipo de activismo.

Junto con sus compañeras monjas de la congregación de las Hermanas de San José de la Paz, que cuenta con 88 religiosas en Estados Unidos y Reino Unido, son lo que se conoce como “accionistas activistas”, religiosas que invierten en compañías.

Ellas utilizan su posición como accionistas para presionar a las grandes empresas a fin de que aborden temas como el cambio climático, los derechos territoriales de los pueblos indígenas y la justicia racial.

“Como tesorera de las hermanas, soy quien representa nuestros intereses… cuando les pedimos que promuevan el bien común”, señala.

En un caso reciente, intentaron que la junta directiva del gigante tecnológico Palantir atendiera sus inquietudes.

Las monjas creían que el software de inteligencia artificial de la compañía estaba siendo utilizado por el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE) y otras agencias estatales “para rastrear y seleccionar migrantes con fines de detención y deportación”.

Según argumentaron, esto constituía una posible violación de los derechos humanos.

En concreto, las hermanas querían que Palantir llevara a cabo una Evaluación de Impacto en los Derechos Humanos, analizando cómo se utilizan sus productos y servicios para mitigar cualquier posible efecto negativo.

Utilizaron lo que se conoce como “resolución de accionistas”: una propuesta que solicita una acción específica y que luego se somete a votación en la junta general anual de la empresa.

A pesar de que solo obtuvo el 13% de los votos, la hermana Susan lo considera una victoria, dado que los fundadores de la empresa controlan el 49,9% de las acciones con derecho a voto.

“Del voto [total] no interno, el 56% estuvo de acuerdo con las hermanas”, dice. “Creo que es revelador que tantos accionistas estén de acuerdo con nosotras”.

La BBC se puso en contacto con Palantir para obtener comentarios, pero la compañía no respondió.

Sin embargo, en una declaración anterior a los accionistas, la compañía afirmó que la acción de las monjas se basaba en “malentendidos e inexactitudes sobre el trabajo de Palantir”, y que Palantir no es una empresa de datos, no vende datos personales ni proporciona minería de datos como servicio.

La votación tuvo lugar menos de dos semanas después de que el papa León XIV presentara en mayo su primer documento doctrinal importante, o encíclica, en la que advertía que la IA debe ser “desarmada” para evitar que “domine a la humanidad”.

El Papa argumentó que la IA debería utilizarse para “el bien común” y que la dignidad humana debería salvaguardarse.

El momento en que se produjo la votación fue una coincidencia, pero la hermana Susan se sintió ilusionada: “He leído su encíclica muchísimas veces, y simplemente reafirma todo lo que está detrás de [nuestro] esfuerzo”, apunta.

Palantir no es la única empresa a la que las monjas han propuesto resoluciones de accionistas, o amenazado con ellas, para presionar a los consejos de administración a abordar lo que ellas consideran cuestiones morales.

Las monjas cuestionaron a Citigroup, una de las instituciones bancarias más grandes del mundo, por su financiación de proyectos de combustibles fósiles en la cuenca amazónica.

A las religiosas les preocupaba cómo se estaban viendo afectadas las comunidades indígenas de la zona y exigían que Citigroup publicara un informe al respecto.

Finalmente, en abril de 2024, el banco lo hizo.

Al preguntársele si este tipo de resoluciones son realmente una forma eficaz de influir en los hechos, dado que en muchos casos no consiguen la mayoría de los votos, la hermana Susan responde que depende de cómo se mida el éxito.

“Nuestra primera resolución fue presentada por la congregación en 1976, y se trataba de una empresa que quizás conozcan, llamada Colgate-Palmolive. Trataba sobre el tema del sexismo y la representación de las mujeres en la publicidad”.

Las accionistas presionaron a la empresa para que abordara la discriminación de género.

La empresa se opuso a la resolución, argumentando que la propuesta era innecesaria, y la votación fracasó.

A pesar de ello, medio siglo después, la hermana Susan no está decepcionada.

¿Se ha eliminado el sexismo de la publicidad? No. ¿Es diferente ahora que en la década de 1970? Sí.

“Para las religiosas, y para la mayoría de los inversores guiados por valores y la fe, el éxito radica en que se planteen las cuestiones y en que estas terminen siendo abordadas a nivel de los miembros del consejo de administración.”

Entonces, en tanto inversoras, ¿las monjas ganan dinero con las mismas empresas cuyas prácticas cuestionan? Sí, dice la hermana Susan, reconociendo la ironía.

Pero añade que los beneficios que obtienen de estas inversiones se destinan a la atención médica de las monjas ancianas, y que solo poseen una pequeña cantidad de acciones.

La hermana Susan también insiste en que hay algunas empresas en las que no invertirían en absoluto, incluidas las fabricantes de armas y aquellas cuya función principal es la producción de combustibles fósiles.

Pero Susan sostiene que ellas deben interactuar con las grandes corporaciones y estar presentes donde se toman las decisiones.

“Si nos ausentamos de los centros de poder… entonces no tendremos voz ni voto en cómo se hacen las cosas”.

La congregación de las Hermanas de San José de la Paz fue fundada en 1884 bajo el pontificado del papa León XIII, cuya obra inspiró al actual Papa a tomar su nombre.

La hermana Susan afirma que el León anterior escribió el primer documento sobre la doctrina social católica relativa al trabajo humano, y que ambos papas se han involucrado en los problemas sociales que importan en la vida de las personas.

Así pues, cuando algunos cuestionan si un grupo de monjas debería intentar influir en las prácticas empresariales de una manera que podría considerarse política, especialmente en un momento de creciente polarización, la hermana Susan tiene una respuesta firme.

“No estamos promoviendo partidos políticos. Estamos promoviendo el valor de la creación de Dios y el derecho de todas las personas a los derechos humanos. Y si eso es político, pues bien”.

Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.

Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.

OpenAI reveló que algunos de sus modelos de IA más avanzados se descontrolaron y hackearon una start-up después de que perdieran el control sobre ellos durante una prueba de seguridad.

La empresa detrás de ChatGPT explicó que su agente de IA —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas— estaba siendo evaluado en un entorno controlado. Sin embargo, encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas.

Los modelos tuvieron como objetivo a Hugging Face, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, y lograron acceder a algunos sistemas internos de la empresa.

OpenAI calificó el incidente de “sin precedentes” y afirmó que estaba llevando a cabo una investigación junto a esta compañía. Por su parte, su director ejecutivo, Clément Delangue, escribió en una publicación en X que era “alucinante que todo esto ocurriera de forma autónoma”.

“La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo”, añadió Delangue.

Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, declaró al programa Today de BBC Radio 4 que las pruebas de seguridad —conocidas como sandboxes (entornos aislados de prueba)— “se supone que son espacios seguros donde se puede observar de qué son capaces los modelos”.

“En este caso, parece que OpenAI no creó un entorno aislado lo suficientemente seguro”, añadió.

En cambio, los agentes crearon su propio ciberataque contra el propio entorno aislado, encontrando una vulnerabilidad que les permitió escapar.

Una vez fuera, la IA identificó a Hugging Face como una fuente probable de las respuestas que buscaban en la prueba e intentó acceder a ella.

Neil Lawrence, profesor de aprendizaje automático en la Universidad de Cambridge, lo calificó de “hazaña impresionante”, pero advirtió que “se encuentra dentro de las capacidades conocidas de la generación actual” de modelos de IA de alta potencia.

Señaló que OpenAI está buscando cotizar en bolsa y se enfrenta a una intensa presión por parte de su empresa rival, Anthropic, que ha sido noticia con su propia y potente herramienta de IA, Mythos.

“OpenAI ahora está intentando ponerse al día, tratando de demostrar las capacidades de sus propios sistemas en ciberseguridad”.

“Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura”, añadió.

En su comunicado inicial sobre el ciberataque, publicado el 16 de julio, Hugging Face afirmó que aún estaba evaluando si se habían visto afectados los datos de algún cliente o socio y que, de ser necesario, se pondría en contacto con las partes afectadas.

La compañía afirmó haber subsanado las vulnerabilidades detectadas por el incidente y haber reconstruido los sistemas afectados.

“Las herramientas ofensivas autónomas basadas en inteligencia artificial ya no son una cuestión teórica”, afirmó.

“Defender una plataforma en línea ahora significa tratar la superficie de datos y modelos como una superficie de ataque de primer nivel, y utilizar la IA en la defensa para mantenerse al día”, agregó.

“Seguiremos invirtiendo allí y seguiremos compartiendo lo que aprendamos”.

El incidente ha suscitado nuevas preguntas sobre las capacidades de los sistemas avanzados de IA y sobre si las medidas de seguridad existentes son suficientes a medida que la tecnología se vuelve más potente.

Spencer Starkey, ejecutivo de la empresa de ciberseguridad SonicWall, declaró a la BBC que el incidente dejó claro que las organizaciones necesitaban “reforzar” sus propias defensas y “tratar la ciberresiliencia como una prioridad operativa fundamental”.

“La incómoda verdad es que demasiadas organizaciones siguen defendiéndose a velocidad humana, mientras que sus adversarios están aumentando la velocidad de las máquinas”, afirmó.

Mientras tanto, Travis Lelle, ingeniero principal de seguridad de la consultora de ciberseguridad Guidepoint Security, afirmó que la actualización marcaba un “momento aleccionador para la ciberseguridad”.

“Esto pone de manifiesto una asimetría ya conocida”, afirmó.

“Los agentes ofensivos no tienen restricciones, mientras que las mejores herramientas defensivas están bloqueadas tras barreras que no pueden comprender el contexto”.

Pero Jake Moore, asesor global de ciberseguridad de ESET, dijo que el anuncio también podría tener una dimensión competitiva.

Argumentó que OpenAI podría estar tratando de destacar sus propias capacidades de IA, mientras que su rival Anthropic atrae cada vez más atención por su modelo Claude Mythos.

“Esto plantea la posibilidad de que OpenAI esté persiguiendo el éxito de marketing que Anthropic ha estado logrando últimamente”, afirmó.

Esto ocurre una semana después de que la empresa china emergente de IA, Moonshot, presentara Kimi K3, un nuevo y enorme modelo de inteligencia artificial que, según afirma, podría rivalizar con las principales empresas estadounidenses.

Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.