Hay una cosa que me gustaría comentar y escuchar vuestras opiniones. Yo tengo una teoría acerca de la IA en la cual, a mi modo de ver, la catástrofe es inminente, y cuanto antes mejor (menos daño).
Cuando hacemos tests de un programa, probamos los resultados esperados e
intentamos probar todos los casos no esperados. Pero aun así es imposible de probarlos todos los inesperados, de ahí los bugs en producción.
Ahora, cuando hablamos de la IA, que son básicamente algoritmos donde la "decisión" se basa "en lo aprendido" que no es más que estadística y probabilidad (que no es lo mismo que lógica y menos todavía lógica de un ser humano que NO siempre es lógica tampoco pero no por ello incorrecta)... Esto quiere decir que no sabemos ni nosotros cuál va a ser el camino que va a tomar la IA para tomar tal o tal decisión. Sólo tenemos visibilidad aproximada a un plazo corto o medio como máximo.
Lo cual me lleva a pensar que estos sistemas van a parecer muy listos en su etapa inicial y durante un período de tiempo. Pero al cabo de un tiempo, antes o después, cuando los datos estadísticos sean ya muy grandes, se van a empezar a trazar caminos estadísticamente ciertos pero no lógicos desde el punto de vista del ser humano. Recordáis lo de "si te digo que el 99% de la gente muere en la cama quiere eso decir que la cama es el sitio más peligroso"...
Y esta problemática va a ir creciendo, porque seremos incapaces de ajustar de manera sistemática estos caminos por los que la IA toma las decisiones. Alguien dirá que sí que podríamos hacer ajustes que se hacen ahora, a manubrio (tipo si alguien te dice "hijo puta" no respondas ni aprendas dicha expresión), pero no va a ser posible cuando haya petabytes de estadísticas (o se necesitará tanto esfuerzo/tiempo/dinero/recursos para vigilarlo que perderá todo sentido). Y lo que es peor, no podremos nunca garantizar que una modificación manual no va a producir otro problema todavía más gordo...
No sé que opináis al respecto, amigos. Pero yo estoy convencido de ello.
Creo que la IA podría ayudarnos como una
herramienta en muchas cosas. Pero como le demos el poder de decidir de verdad, cosa que seguramente va a pasar (aquí estoy bastante pesimista), al principio va a funcionar pero no por mucho tiempo y nos vamos a pegar una hostia monumental. Creo que va a ser algo tipo Skynet en Terminator, no a tal grado ni creo que sea a nivel militar (gracias a Dios no creo que seamos tan absolutamente tontos) sino a nivel por ejemplo de gestión de empresa (finanzas, economía), de transporte etc. Y creo que esto va a ser causa de un buen colapso a nivel mundial (o casi), y es ahí donde va a haber un retorno a sistemas controlados por el ser humano y una legislación muy estricta en cuanto a sistemas IA.
Bueno, ya me diréis qué pensáis vosotros.
