*

X
Ante los desarrollos recientes en inteligencia artificial y robótica, Musk lanza una alerta

En las últimas semanas se anunciaron al menos dos desarrollos robóticos sumamente sorprendentes. 

Por un lado, a finales de octubre, se dio a conocer a “Sophia”, quizá el robot más antropomórfico construido hasta hoy que, además, llegó acompañado de una estrategia publicitaria de alto impacto: se trata también del primer robot en la historia en recibir la ciudadanía de un país, en su caso Arabia Saudita, cuyo gobierno lanzó de esta forma el anuncio de que se encuentra abierto a acoger empresas e iniciativas dedicadas al desarrollo de inteligencia artificial. 

“Sophia” fue diseñada y construida por la compañía de origen hongkonés Hanson Robotics, en donde se le programó para sostener conversaciones con seres humanos. Sus programadores incorporaron desarrollos tecnológicos modernos como el reconocimiento facial y de voz, la búsqueda de nueva información y el aprendizaje sobre la marcha, pero al mismo tiempo puede considerarse una versión de su antecesora ELIZA, el legendario programa que fue uno de los primeros en pasar la prueba de Turing (conversar con un ser humano sin que éste se dé cuenta de que sostiene una plática con una máquina). En ese sentido, a pesar de todas las escenas sorprendentes que se han visto en medios, puede decirse que “Sophia” está diseñada para generar la ilusión de una conversación, y no tanto para conversar en sí, según lo entendemos los seres humanos.

Por otro lado, a mediados de noviembre, el laboratorio Boston Dynamics igualmente hizo públicas algunas escenas de su robot estrella, “Atlas”, realizando movimientos que “la mayoría de las personas no pueden hacer”, según se repitió en diversos medios, esto es, saltar del piso hacia una superficie elevada y, lo más notable, hacer un salto hacia atrás. 

Al ver tanto a “Sophia” como a “Atlas”, es un poco inevitable pensar en las varias películas de ciencia ficción construidas sobre la posibilidad distópica de la inteligencia artificial y los desarrollos robóticos. Por más optimismo o esperanza con que se presenten estas invenciones –se dice, por ejemplo, que “Sophia” podría asistir a personas mayores en casas de retiro, a los visitantes de un parque público, y que Atlas podría usarse en misiones de rescate–, lo cierto es que en la historia de la humanidad se encuentra evidencia suficiente para sospechar de esas buenas intenciones y, en ese sentido, no resulta complicado imaginar a “Sophia” y a “Atlas” en escenarios de guerra y violencia como los de la distopía Matrix, por ejemplo:

Elon Musk es una de las personas que comparten dicha suspicacia frente a la inteligencia artificial, e incluso más que una simple reticencia. De acuerdo con un reportaje publicado recientemente por la revista Rolling Stone, el también inventor y fundador de la compañía automotriz Tesla considera que existe sólo un 10% de probabilidades de desarrollar inteligencia artificial que sea segura para el ser humano. En el resto de escenarios, la inteligencia artificial representa un riesgo mayor para la supervivencia de nuestra civilización, según Musk.

Paradójicamente, Musk también es inversor en DeepMind, el ambicioso proyecto de investigación en inteligencia artificial de Google que cuenta con vastos recursos para sus investigaciones. Según se publica en Rolling Stone, Musk decidió invertir en el proyecto para “tener un ojo” en los desarrollos de Google. 

Según puede colegirse de sus proyectos y sus posiciones frente a ciertos fenómenos contemporáneos, Musk actúa bajo ciertas directrices filantrópicas y, a diferencia de muchos de sus colegas multimillonarios, se ha pronunciado en diversas ocasiones a favor del uso benéfico de la ciencia y la tecnología, en provecho de la humanidad y no en su contra. 

Él, por ejemplo, es una de las pocas personas que estando dentro del círculo de acción de los dueños y desarrolladores de empresas como Facebook, Google o Amazon, señala el inmenso poder que han acumulado estas corporaciones a través de la recolección de datos personales, mismo que hasta ahora se encuentra escasamente regulado y que quizá con el tiempo se vuelva incontrolable.

No es posible saber hasta dónde llegará el desarrollo de la inteligencia artificial o el uso de la información personal que concedemos con tan sólo pasar unos cuantos minutos en las redes sociales, pero quizá la alerta de Musk podría tomarse más en serio antes de que, como dijo en otra ocasión, veamos robots en las calles matando seres humanos.

 

También en Pijama Surf: 10 obras distópicas indispensables para entender el mundo en el que vivimos

Por qué ejecutivos de Google, Twitter y Facebook están apagando sus aparatos y desconectándose de la red

Medios y Tecnología

Por: pijamasurf - 11/26/2017

Una ola de programadores y diseñadores desencantados están limitando su uso de la tecnología digital. ¿Qué es lo que saben que los motiva a hacer esto?

Estamos en las albricias de una revolución -o quizás sólo de una pequeña revuelta en el seno de los grandes gigantes de Internet, pero sin duda algo está pasando. Un punto de toma de conciencia. Puede ser que no acabe siendo muy significativo, pero actualmente resulta evidente, para cualquiera que se informe un poco y mantenga una conciencia crítica, que el uso masivo de la tecnología digital está teniendo efectos considerables en la atención y en la más básica capacidad de relacionarse de los seres humanos. Las voces más calificadas son las que conocen los detalles desde dentro, el cómo se está programando y diseñando la tecnología digital.

La forma en la que esto se empieza a difundir ha hecho que hace un par de semanas el creador del iPhone admitiera que el uso constante del iPhone puede ser algo malo. Algo que es evidente, pero lo notable es que aceptar esto desde dentro de la compañía habla de que estamos llegando a una posible masa crítica.

Pese a que la tecnología digital -especialmente el Internet- originalmente parecía haberse creado para avanzar el conocimiento de la humanidad, existen cada vez más estudios que sugieren que el uso excesivo de aparatos como los smartphones contribuye negativamente a la inteligencia de las personas. Uno podría decir que simplemente no hay que usarlos "excesivamente", pero el problema es que están precisamente siendo diseñados para que los utilicemos todo el tiempo. Y esto es algo de lo que son conscientes los ejecutivos y programadores de empresas como Google, Facebook y Twitter.

Un reciente artículo de The Guardian, sumamente completo, habla de esta tendencia y entrevista a diversos exempleados de los grandes gigantes de Internet, quienes hablan de cómo han empezado a modificar sus hábitos para volver a tomar control de su atención y han restringido el uso de aparatos en sus familias.

Tristan Harris, exempleado de Google (encargado de filosofía de productos), se ha convertido en uno de los críticos más vocales, él mismo habiendo experimentado los mecanismos que mueven lo que ha sido llamada "la economía de la atención", la economía que se basa en captar la atención de las personas para monetizarla. Harris incluso trabajó en un laboratorio en Stanford que estudia la conducta humana y se dedica a hacer la tecnología adictiva. "Nuestros cerebros pueden ser secuestrados", dice, y compara los smartphones con máquinas tragamonedas, como aquellas llenas de lucecitas y sonidos en Las Vegas. Como estas máquinas, la tecnología se hace adictiva con la promesa de una recompensa, lo cual genera dosis intermitentes de dopamina. Harris mantiene que actualmente las personas son insertadas en entornos donde la tecnología digital es ubicua y no existe, por otro lado, ninguna advertencia de sus efectos. Él sugiere que debemos generar un código hipocrático entre diseñadores y buscar primero no dañar, antes de ganar más dinero, aunque esto es algo que difícilmente tendrá éxito en las empresas. Y, dice, quizás también, en un futuro, tener aparatos con advertencias en sus paquetes, como hoy las tienen los cigarros.

Justin Rosenstein es un exejecutivo de Facebook que, entre otras cosas, desarrolló el botón de like (llama a los likes o "Me gusta": "brillantes golpes de seudoplacer"). El botón de like fue un éxito descomunal que hizo que "las personas disfrutaran del breve boost de recibir afirmación social" mientras que Facebook cosechaba datos valiosos de sus preferencias. El botón fue copiado por prácticamente todas las redes sociales. "Las personas se la pasan todo el tiempo distraídas", dice Rosenstein, acaso con un dejo de conciencia moral. Pero él ha tomado medidas: ha limitado su uso de Facebook y se ha prohibido estar en Snapchat, al que llama "heroína digital" .

Roger McNamee, un inversionista tanto de Facebook como de Google y quien le presentó a Mark Zuckerberg a la actual jefa operativa de Facebook, Sheryl Sandberg, dice que estas compañías "acreditan que están dando a los usuarios lo que quieren. [Pero] lo mismo puede decirse de las compañías de tabaco y los vendedores de drogas". Las personas que dirigen Facebook y Google son buenos tipos, cuyas estrategias bien intencionadas llevan a consecuencias horribles no intencionadas. El problema, señala, es que no hay nada que puedan hacer las compañías de tecnología para detener el daño, a menos de que abandonen sus actuales modelos de publicidad. Todo acaba siendo un problema del modelo económico insaciable, basado en generar más ingresos a como dé lugar, y no prosperidad real.  

James Williams, un estratega que ayudó a construir el sistema de métricas para el negocio de anuncios de Google, señala que estamos presenciando "la más grande, centralizada y estandarizada forma de control de atención en la historia de la humanidad... Las dinámicas de la economía de la atención están estructuradas de tal forma que mitigan la voluntad humana".

Nir Eyal, un reputado consultor de la industria, señala : "De la misma manera que no debemos culpar al panadero por crear deliciosos postres, no debemos culpar a los diseñadores o programadores por hacer productos tan buenos que todos queremos usarlos". Sin embargo, Eyal ha instalado un cronómetro que corta a su familia el acceso a Internet después de cierta cantidad de tiempo.

El diseñador Loren Brichter, quien creó el mecanismo "pull-to-refresh" de Twitter, acepta que los smartphones son como las máquinas tragamonedas. "Tengo hijos ahora y me arrepiento de cada minuto que no les estoy poniendo atención porque mi smartphone me chupó". Su postura es emblemática de la nueva generación que, al crecer, se da cuenta de que hay cosas más importantes que ganar dinero. "Twitter es adictivo. Esto no es algo bueno. Cuando estaba trabajando [en los diseños] no era  lo suficientemente maduro como para darme cuenta de esto", dice Brichter. 

 

Lee también: Por qué necesitamos un nuevo Martín Lutero que desafíe la religión de la tecnología