En el artículo anterior veíamos cómo la comprensión del lenguaje representa uno de los mayores retos a los que se enfrentan los desarrolladores de la Inteligencia Artificial. Servía como preparación para la idea de éste: ¿Podemos debatir con una máquina? ¿Podremos vencer a un súper-ordenador, capaz de hacer síntesis de las principales cuerpos teóricos e ideológicos en una discusión dialéctica, en un debate?
Intro video
¿Tomar decisiones más acertadas?
Como lo sugiere el video (ahora ya no lo tienes que imaginar), tienen una máquina capaz de sintetizarte cientos de miles de artículos sobre un tema acerca del cual debes debatir y finalmente tomar una decisión… ¿No sería ideal? ¿Qué de malo podría tener?
Ya he advertido a través del ciclo que un ocasiones haré la figura del abogado del diablo, por más fascinado que esté con las posibilidades.
Uno de las características del enfoque de sistemas son las llamadas cualidades emergentes. Son aquellas que por un lado no estaban previstas bajo la óptica de la linealidad causal de 1+1=2 y por el otro, pueden no ser predecibles. Dicho de una manera más clara, cada vez que dos entidades con una sumatoria de cualidades (en nuestro caso, propias de la inteligencia) entran en relación, se producirán “realidades” que solo son posibles en dicha relación y que por tanto no pueden ser previstas en su totalidad.
Creando máquinas capaces de debatir…
- ¿Estamos creando al político perfecto?
- ¿Cómo rebatiremos una decisión sugerida por una máquina si se supone que sus resultados son el culmen de la lógica y de las posibilidades más racionales ante un hipotético escenario?
- ¿Podremos como seres humanos evolucionar gracias o a pesar de la IA hacia maneras más correctas de pensar, debatir y por tanto tomar decisiones?
El Dr. Slonim en el video plantea parte de la dificultad desde el punto de vista técnico comparando las “capacidades” de la máquina con relación al ser humano:
“Para la computadora es muy difícil entender la pregunta, y para los humanos es exactamente lo contrario, normalmente entendemos la pregunta muy rápido, solo que no tenemos suficiente memoria para extraer todas las respuestas relevantes”.
La Dra. Aharonov pone también el acento en lo complejo de replicar el pensamiento humano. Lo que nosotros hacemos la mayoría de las veces de manera automática, en las máquinas debe programarse. Se le puede proveer al sistema de cada uno de los elementos que necesitará para producir una respuesta eficiente y eficaz ante la decisión por tomar, pero el reto de los desarrolladores no está solo en decirle cuáles son esos factores sino cómo debe unirlos para proponer una respuesta coherente.
Lo que el video muestra es que la maquina (el Proyecto Ponente o “Debater”) es después de procesar miles de documentos emitirá un juicio, una opinión o una sugerencia.
¿Cómo saber si en realidad es la mejor conclusión u opción ante el problema planteado?
En los humanos (también de manera automática) damos por hecho la falibilidad del sistema, sabemos que quien expone es un ser humano imperfecto, lleno de miedos, taras, condicionantes, expectativas e intereses. ¿Dónde están estas características en la máquina?
Cada documento que el ser humano ha escrito, por más científico que sea, está sesgado por algún tipo de interés personal, profesional, social, ideológico. ¿Cómo se deshace o deshará la máquina de esos sesgos para dar credibilidad de que sus conclusiones no están condicionadas por los documentos que ha analizado?
La respuesta fácil es, si analiza miles, millones de documentos en un breve período de tiempo no podrá sesgarse porque será el promedio de la suma de todos los sesgos. Un promedio de las diferentes tendencias de pensamiento no es el reflejo de un pensamiento en concreto, es una cualidad emergente del sistema. Esto es, es una nueva forma de “pensar”.
Ahora, qué suele pasarles a los humanos ante las ideas nuevas. Exacto, nos resistimos, no nos gusta. ¿Cuánto tiempo pasará para que a las máquinas de debate se les acepten sus conclusiones como la mejor opción posible? Probablemente ocurrirá cuando la IA no la sintamos extraña, sino parte cotidiana de nuestra vida, pero mientras tanto, por más elaborada que sea la conclusión de una máquina, suscitará toda clase de dudas, por más que sus desarrolladores aseguren que la máquina ha construido su argumentación a partir de variables “objetivas” y por tanto no está sujeta a los sesgos humanos, que además, es justo una de las características que nos hacen precisamente humanos.
¿Qué pasará cuando la mejor opción de la máquina de debate sea éticamente contradictoria con algún elemento, pongamos por ejemplo, de los derechos humanos?
Dejando a un lado mi mente conspiranoica, ¿no resulta simpático que la conclusión de la máquina de debate sea que se deben legalizar las apuestas deportivas?. ¿A ver? Miles de aparatos captando nuestros perfiles psicológicos saltando en simpáticos “pup-up” sugiriéndonos apostar, y no solo porque nos salga de los cataplines o los ovarios, sino porque X máquina ha argumentado que el “summum” del ejercicio de la libertad humana? ¡Hummm!
Ahora, pasa de imaginar a dos “inteligencias” ante un atril tratando de persuadir a un público. Piensa en las posibles “utilidades” o derivaciones de este desarrollo.
¿Cuántas decisiones tomamos en un día? Miles.
¿Y si tuvieras un asistente que te analice todas las posibles opciones y te sugiera la mejor?
¿Cuánto pensamiento crítico tenemos para oponernos a una argumentación bien fundamentada?
El avance de la tecnología ha demostrado que con el paso del tiempo, los humanos integramos ésta a favor de nuestra comodidad. A la televisión sin mando a distancia (control remoto) le siguió el no tener que levantarnos del sofá para cambiar de canal. A este le siguió la posibilidad de comunicarnos con el aparato a través de otros dispositivos portátiles. A esto le ha seguido los comandos por voz, los reconocimientos biométricos; todo para hacerte la vida más fácil, pero paradójicamente que nos deja en una posición aún más pasiva de la que hemos estado siempre.
La película Wall-E mostró esta distopía, seres humanos vagando en un barco galáctico auto-sostenible repleto de los últimos “supervivientes”, obesos y obesas seres humanos que podían hacer todo desde una poltrona deslizador, sumidos en diferentes programas de realidad virtual.
¿Una máquina de debate nos llevará a la pereza mental?
¿Sustituirá nuestra responsabilidad legal cuando la decisión del robot nos lleve ante la justicia, o nos enfrente a nuestra pareja ante la decisión de que es mejor el divorcio?
Todo por venir, nuestro mundo está cambiando ante nuestros ojos y nuestra evolución “mental” apenas empieza a despertar. ¿Quiénes están detrás de estos desarrollos? ¿Cuál es nuestra posibilidad de reacción o de proacción al respecto? ¿Quiénes se aprovecharán de nuestra somnolencia?
