Cada día son más los expertos que advierten acerca del peligro que supone la inteligencia artificial. O para ser más precisos, la evolución de esta. Mientras gente como Bill Gates o Sam Altman se muestran encantados con sus posibilidades, otros muchos están cuanto menos preocupados. Y repiten con insistencia que el tiempo corre, no precisamente a nuestro favor.
Entre estos últimos se cuenta Charbel-Raphaël Ségerie, director ejecutivo del Centro Francés para la Seguridad de la IA. Desde luego no se trata de alguien tan mediático como Elon Musk, por ejemplo, pero lleva el tiempo suficiente dedicándose a la IA como para prestar atención a sus palabras. Unas palabras que coinciden con el pesimismo mostrado por gente como Geoffrey Hinton.
La evolución de la IA, un peligro en ciernes
Tal y como explica en unas recientes declaraciones, Charbel-Raphaël Ségerie tiene claro que la inteligencia artificial no va por buen camino. “Es una auténtica locura”, señala, dejando bien clara su postura. ¿Y por qué? Básicamente porque, según él, se trata de una tecnología demasiado incierta como para no tener un control más exhaustivo sobre ella. Algo muy peligroso.
El problema, como casi siempre, es el dinero. El afán por conseguirlo, dice Ségerie. Desde su punto de vista, las grandes empresas, empezando por OpenAI, responsables de ChatGPT, solo avanzan en el complejo terreno de la IA con un fin: ganar el máximo de dinero posible. Algo que, más pronto o más tarde, puede terminar por ser un problema para toda la humanidad, así en general.
“No soy contrario a la innovación”, explica Ségerie. “Soy ingeniero, la adoro. Pero creo que la prioridad para la humanidad es asegurarnos de que la IA generativa no sea nuestra última tecnología“, sentencia. Y eso es algo que por el momento no está sucediendo para nada. Si todo sigue así, advierte, incluso la extinción de la humanidad podría ser un escenario posible e incluso probable.
Charbel-Raphaël Ségerie teme lo mismo que otros tantos expertos en IA: que llegue el momento en el que los chatbots sean capaces de gestionarse por ellos mismos. Es decir, que se pierda el control sobre ellos. ¿Un escenario fantástico? Para nada. Teniendo en cuenta lo rápido que se está desarrollando todo con la IA, él cree que puede pasar perfectamente, y sin esperar demasiado.
El riesgo de perder el control sobre la tecnología es real
De hecho, el experto considera que se trata de una amenaza que ya está sucediendo. “Algunos sistemas avanzados de IA ya han exhibido un comportamiento engañoso y dañino, y, a pesar de ello, a estos modelos se les está dando más autonomía para tomar acciones y decisiones en el mundo”, razona. Es lo que él entiende como “autorreplicación”.
O lo que es lo mismo, que la IA crezca y se expanda como un virus sin intervención humana. Por si fuera poco, Ségerie pone fecha al asunto. Él vaticina que podría darse incluso a finales de este mismo año, aunque lo más probable es que se convierta en realidad alrededor de 2027. Para entonces, eso sí, quizá ya sería tarde para reaccionar.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial