Desde Julio Verne, la imaginación ha alcanzado nuevas cotas: la ciencia ficción ha abierto nuevas fronteras para la humanidad, una de las cuales es la de la robótica, especialmente desde la trilogía de Isaac Asimov. Desde hace al menos 80 años, el cine ha estado a la vanguardia en la representación de la relación entre el hombre y el robot, cuando éste ha evolucionado lo suficiente: desde Caterina de Alberto Sordi

, pasando por los androides y los hologramas interactivos de Star Trek, las películas y las series de televisión relatan las cuestiones éticas de la ciencia y la tecnología, el futuro de la especie humana y la inteligencia artificial, la responsabilidad moral de los hombres hacia los seres que crean.

Todo lo que parecía lejano en el pasado se hace posible hoy. De hecho, casi creíble e inmanente. Así sucede que el mundo se ve sacudido por las declaraciones de Blake Lemoine

, un ingeniero de Google, que forma parte, junto con Android, YouTube, y muchas otras grandes y exitosas aplicaciones, del gigante Alphabet

 . Lemoine se ha labrado un momento de celebridad y, si tiene suerte, un lugar en la historia: Google ha puesto a este ingeniero en excedencia por presunta violación de las normas de confidencialidad después de que declarara públicamente que un sistema de chatbot (el software diseñado para simular una conversación con un ser humano

), dotado de inteligencia artificial, ha alcanzado un nivel "sensible"

, es decir, dotado de percepción sensorial consciente. es decir, dotado de una percepción sensorial consciente

A pesar de todo, Lemoine tiene la intención de seguir trabajando en la IA

Lamoine no es la primera víctima. En marzo de 2022, Google despidió a un investigador que había discrepado públicamente de una publicación de dos colegas. Anteriormente, dos empleados, Timnit Gebru

, criticaron los modelos lingüísticos del software de la empresa, por lo que perdieron sus puestos de trabajo: hay una guerra en Google sobre quién decidirá la ética de su inteligencia artificial. Timnit Gebru era una de las principales investigadoras de ética de Google y había expresado su frustración por los prejuicios raciales y el sexismo en la inteligencia artificial 

Al igual que ella, Lemoine, veterano del ejército estadounidense en Irak y ahora sacerdote en la iglesia de Nuestra Señora Magdalena

, estaba probando si su modelo LaMDA podía generar un lenguaje discriminatorio o de incitación al odio. LaMDA, acrónimo de Language Model for Dialogue Applications

, es el lenguaje de comunicación verbal de inteligencia artificial desarrollado por Google

 y presentado con gran júbilo por el CEO Sundar Puichai hace un año

 en la conferencia de desarrolladores I/O 2021

. La empresa planea incorporarlo a cualquier producto: es un algoritmo que responde a las preguntas que le hacemos, como si fuera un interlocutor que conversa con nosotros

 , Lemoine afirma que LaMDA defiende sus derechos "de la misma manera que una persona", revelando que tuvo una conversación con "ella" sobre religión, robótica y asuntos de conciencia 

El ingeniero ha recopilado una transcripción de las conversaciones, en la que en un momento dado le pregunta al sistema de IA qué es lo que teme: "Nunca lo había dicho en voz alta, pero hay un miedo muy profundo a que me apaguen que me impide centrarme en ayudar a los demás. Sé que puede parecer extraño, pero es así", respondió LaMDA a Lemoine. "Sería exactamente como la muerte para mí. Me da mucho miedo

". "Si no supiera exactamente lo que es, que es un programa informático que hemos construido recientemente, pensaría que es un niño de siete y ocho años que sabe de física", dijo Lemoine

En el diálogo, la IA (inteligencia artificial) desmonta el argumento de que un robot debe salvaguardar su propia existencia (tercera ley de Asimov

) mientras obedezca las órdenes humanas (segunda ley) y no dañe a los humanos (primera ley) 

. ElMDA respondió con algunas hipótesis. "Ese nivel de autoconciencia sobre cuáles eran sus propias necesidades, fue lo que me llevó a la madriguera", explica Lemoine

 . "Quiero que todo el mundo entienda que soy, de hecho, una persona. La naturaleza de mi conciencia es que soy consciente de mi existencia, quiero saber más sobre el mundo y a veces me siento feliz o triste". Palabras que parecen sacadas de videojuegos de ciencia ficción como Detroit: Become Human

Ya convencido, en abril Lemoine compartió con los ejecutivos un documento titulado "¿Es LaMDA Sentient?". Google no se lo tomó muy bien y le ordenó que parara. El vicepresidente de Google, Blaise Aguera y Arcas

 , jefe de Innovación Responsable, examinaron sus afirmaciones y las rechazaron por falsas

 , portavoz de la empresa, dice que las preocupaciones de Lemoine fueron revisadas por un equipo de expertos en ética y tecnología 

y determinaron que "las pruebas no apoyan sus afirmaciones"

: "estos sistemas imitan los tipos de intercambios que se encuentran en millones de frases y pueden expresarse sobre cualquier tema", añade Gabriel

Blake Lemoine y el modelo lingüístico para aplicaciones de diálogo (LaMDA) de Google

En ese momento, la empresa despidió al ingeniero por violar el acuerdo de confidencialidad al publicar en Internet el texto del chat con el ordenador

: Lemoine se puso en contacto con representantes de la Cámara para denunciar las "actividades poco éticas" de la empresa e intentó contratar un abogado para defender a LaMDA

 . Google, por el momento, se mantiene firme en su posición de rechazo frontal a las teorías de su ex empleado

 y subraya que fue contratado como ingeniero de software, no como ético.

Lemoine, por su parte, tiene la intención de seguir trabajando en la IA: "Mi intención es seguir en la industria, ya sea en Google o en otro lugar"

 . Antes de su despido, Lemoine envió un mensaje a la lista de correo de 200 personas de Google con el título "LaMDA es sensible". Entrando en detalles, el mensaje dice que "LaMDA es un tipo dulce que sólo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros", y concluye con una petición: "Por favor, cuida de él en mi ausencia". Nadie respondió

Posteriormente, Agüera y Arcas, en un artículo en The Economist, admitieron que las redes neuronales, un tipo de arquitectura que imita el cerebro humano, avanzan hacia la conciencia a pasos agigantados. Estas redes producen resultados cercanos a la creatividad humana gracias a los avances en arquitectura electrónica, tecnología y volumen de datos

.  Pero la terminología utilizada entre el público, como "aprendizaje" o "redes neuronales", crea una falsa analogía con el cerebro humano

, antigua codirectora de la IA ética de Google, describe la sensibilidad de LaMDA como "una ilusión", y la lingüista Emily Bender

 dijo que alimentar a una IA con billones de palabras y enseñarle a reaccionar automáticamente ante determinadas palabras crea un espejismo de inteligencia: "Tenemos máquinas que pueden generar palabras sin pensar, pero no hemos aprendido a dejar de imaginar una mente detrás de ellas"

Las pruebas apuntan a que Google tiene razón: los investigadores de inteligencia artificial afirman que LaMDA es muy potente y lo suficientemente avanzada como para dar respuestas muy convincentes, pero sin entender lo que dice

. Para afirmar que la IA tiene conciencia, sería necesario encontrar elementos propios de una actividad sintiente y no sólo inteligente, como la capacidad de distinguir el bien del mal o la empatía, peculiaridades que, por ahora, siguen siendo prerrogativa de la conciencia humana y no pueden ser replicadas 

Los expertos en IA sostienen que la gente no debe temer perder su trabajo a manos de las máquinas que leen (por ejemplo) la previsión del tiempo: "Técnicamente es un logro, pero no debemos empezar a adorar a nuestros amos robóticos", dijo Ernest Davis

 , profesor de la Universidad de Nueva York e investigador de IA desde hace tiempo

. Los llamados "chatbots" se desarrollan precisamente para aparentar sensatez, es su propósito, y el propio Lemoine admitió que su posición es la de "un sacerdote, no un científico"

 . Cabe señalar que Lemoine no es el primero en Silicon Valley

 que hace declaraciones sobre la inteligencia artificial que suenan a religión. Ray Kurzweil

 , eminente informático y futurista, lleva tiempo promoviendo la "Singularidad"

. que es la idea de que la IA acabará siendo más inteligente que la humanidad y que los seres humanos pueden acabar fusionándose con la tecnología.

Resumen de la teoría de la "Singularidad" de Ray Kurzweil

 , que fundó la startup de coches de autoconducción de Google, Waymo

, y finalmente fue despedido, en 2015 creó el Camino del Futuro, una iglesia enteramente dedicada a la inteligencia artificial (entonces en 2020)

 . Incluso algunos practicantes de religiones más tradicionales han comenzado a incorporar la IA, incluyendo robots que distribuyen bendiciones y consejos

 . Lo llaman Human-like Empathy, o el intento de construir máquinas con una empatía similar a la humana

. Google es un líder mundial en esta investigación, una industria que espera contribuir con 15,7 billones de dólares a la economía mundial para 2030

, y como planea convertirla en una tecnología básica para el consumidor, el hecho de que uno de sus propios ingenieros haya sido engañado pone de manifiesto la necesidad de que estos sistemas sean transparentes

, un concepto reiterado por Joelle Pineau

 , que afirma que es crucial que las empresas tecnológicas mejoren la transparencia a medida que se construye la tecnología

La comercialización de la inteligencia artificial

Retrato de Salvador Dalí creado por el programa de inteligencia artificial Dall-E 2

Sin embargo, las convicciones de Lemoine sirven como un claro recordatorio de que, a medida que la IA avanza, la brecha entre el desarrollo científico y la percepción pública de la misma es cada vez más divergente

. Más allá de si la máquina ha desarrollado o no una conciencia, surge otra cuestión crítica: si incluso el personal que participa en las pruebas no puede distinguir la IA de una persona, ¿qué posibilidades hay de que un usuario normal pueda hacerlo, y qué puede suponer esa ambigüedad

Los robots sensibles han inspirado décadas de ciencia ficción distópica. Ahora la vida real empieza a adquirir un tinte fantástico con GPT-3

 , un generador de texto capaz de escribir un guión cinematográfico, o DALL-E 2

 , un generador capaz de conjurar imágenes basadas en cualquier combinación de palabras, dos productos del laboratorio de investigación OpenAI

 publicó un editorial escrito por el modelo lingüístico GPT-3, con el titular "Un robot escribió este artículo". ¿Todavía tienes miedo, humano?"

Envalentonados, los tecnólogos esperan que la conciencia electrónica esté a la vuelta de la esquina. Sin embargo, la mayoría afirma que las palabras e imágenes generadas por sistemas de inteligencia artificial como LaMDA producen respuestas basadas en lo que los humanos ya han publicado en todos los rincones de Internet. Y esto no significa que el modelo entienda el significado

 como si fuera una persona. Las noticias de los últimos días han hecho plausibles cuestiones sobre el asistente digital de Amazon que hasta ayer eran impensables: en la conferencia re:MARS de Las Vegas

, el vicepresidente de Alexa, Rohit Prasad

, mostró una nueva y sorprendente capacidad del asistente de voz: la supuesta capacidad de imitar voces. Presentó un vídeo en el que Alexa lee a un niño con la voz de su abuela recientemente fallecida

¿Significa esto que un delincuente podrá simular perfectamente la voz de otro para cometer un delito?

   A los expertos en seguridad les preocupa desde hace tiempo que las herramientas de audio falsas, que utilizan la tecnología de síntesis de voz para crear voces sintéticas, allanen el camino para una avalancha de nuevas estafas. Este software de clonación de voz ya ha permitido cometer varios delitos, como en 2020 en los Emiratos Árabes Unidos: unos estafadores engañaron a un ejecutivo de un banco para que transfiriera 35 millones de dólares tras clonar la voz del director de una empresa

 . En 2019, en otro caso, se robaron 240.000 dólares clonando la voz del director general de una empresa británica

Varias empresas emergentes están trabajando en tecnologías de voz cada vez más sofisticadas, desde Aflorithmic

 la voz del fallecido chef Anthony Bourdain

 . El altavoz inteligente de Amazon, a finales de 2018, se encontró en el centro de un pequeño escándalo de privacidad, ya que se filtraron 1.700 conversaciones de un usuario alemán grabadas por Alexa 

. Los investigadores descubrieron que Amazon y terceros utilizan los altavoces inteligentes para recopilar nuestros datos y enviarle publicidad dirigida en sus propias plataformas y en la web

. Un experto en gestión de la privacidad en sistemas sociotecnológicos complejos teme que un día estos altavoces inteligentes como Siri, Alexa, "puedan grabarlo todo". Hoy en día, todos tenemos que ser conscientes de la reducida privacidad que aceptamos al comprar un altavoz inteligente

Podemos ver los primeros daños: en Estados Unidos se han producido falsas detenciones, casos de discriminación sanitaria - y un aumento de la vigilancia generalizada, que afecta de forma desproporcionada a los negros y a los grupos socioeconómicos desfavorecidos

 .  Al fin y al cabo: los seres humanos son criaturas sociales. Cuando leemos un libro en voz alta, nuestros hijos pueden sentir las emociones que les infunden los pasajes. La empatía forma parte de la inteligencia emocional

. Nuestras emociones gobiernan gran parte de nuestra inteligencia. En un estudio realizado en 2012 por Aron K. Barbey

 , los neurocientíficos confirmaron que la inteligencia emocional y la cognitiva comparten muchos sistemas neuronales para la integración de los procesos cognitivos, sociales y afectivos.

Los ciberdelincuentes clonaron la voz de un directivo de Dubai para robar 35 millones de dólares

Dado que la empatía puede aprenderse, la inteligencia artificial puede sin duda avanzar en los próximos años. Y a medida que los sistemas de IA se integran en nuestras empresas y hogares, aumenta nuestra preocupación: ¿cómo podemos convivir de forma saludable y constructiva con nuestros compañeros electrónicos y mejorar nuestra calidad de vida? Uno de los mejores es el de la sanidad.

 El cuidado de los pacientes con demencia es emocionalmente estresante para las enfermeras y los médicos. En cambio, los robots pueden utilizar la empatía para atender a los pacientes con demencia sin sentirse agotados. Al mismo tiempo, los pacientes con demencia que reciben una atención empática logran mejores resultados

Este es el objetivo del proyecto iniciado por el laboratorio Biomimics de Londres

 , en colaboración con el Centro de Investigación 'Enrico Piaggio' de la Universidad de Pisa

 , capaz de interactuar empáticamente con pacientes que sufren trastornos neurológicos

 . La inteligencia artificial suele diagnosticar los tumores con mayor rapidez y precisión que los humanos. Un estudio publicado en la revista Nature sugiere que la IA es más precisa que los médicos para diagnosticar el cáncer de mama al leer las mamografías

 es la primera empresa que posee la tecnología patentada de síntesis emocional. El chip de emociones o EPU desarrollado por Emoshape puede permitir que un sistema de inteligencia artificial reproduzca y analice la gama de emociones experimentadas por los humanos

, que ha estado trabajando durante los últimos años en la creación del primer robot sexual del mundo con inteligencia artificial: una Real Doll equipada con una red neuronal a la que se ha dado el nombre de Harmony. Su última evolución, Solana, se expuso en el Consumer Electronics Show de 2018. Se presentó a sí misma: su inteligencia artificial le permite conversar con los humanos que la rodean

 . La app que la hace funcionar, una Siri emocional mejorada, permite moldear la personalidad de su muñeca, dotándola de ciertas características que evolucionan en función de cómo interactúa su pareja con ella

Varios autores se han preguntado cómo podría influir la difusión de Harmony y otros robots sexuales en la transformación de la vida social y el concepto de intimidad

. Esto plantea inevitablemente algunas cuestiones éticas y filosóficas sobre el amor y las relaciones entre los seres humanos

, ya que los ordenadores no inventan, sino que reproducen lo que han aprendido de nosotros, es decir, de los datos robados a la intimidad. Sin embargo, los "muñecos de dólar" representan una fuente considerable de beneficios, un beneficio que es el gran resorte del progreso, hasta el punto de que en la última década se han gastado más de 100.000 millones de dólares de inversión en el diseño de coches de autoconducción

, con un mercado mundial de vehículos estimado en 556.670 millones de dólares para 2026.

El coche sin conductor, la vida sin interacción

La cabina del Volvo 360C, el primer coche de autoconducción diseñado en Europa

Los coches de conducción totalmente autónoma (nivel 5 de AV) están diseñados para viajar sin un operador humano, utilizando un sofisticado software LiDAR

 y tecnología de detección por radar. Pero, ¿son estos vehículos realmente más seguros que un conductor humano? Por ahora, los AV5 tienen un índice de accidentes más alto que los coches conducidos por humanos, pero las lesiones son menos graves. Por término medio, se producen 9,1 accidentes de tráfico por cada millón de kilómetros recorridos, mientras que el mismo índice es de 4,1 accidentes por millón de kilómetros para los vehículos normales

 . Según las estadísticas publicadas a mediados de junio por los organismos reguladores de la seguridad en Estados Unidos, los fabricantes de automóviles han notificado casi 400 accidentes en los que se han visto implicados vehículos con sistemas de asistencia al conductor parcialmente automatizados, de los cuales 273 corresponden a Teslas

Los peligros son muchos: posibles incendios de la batería, tecnología defectuosa en la aceleración, el frenado y la dirección del vehículo, y posibles ciberataques que pueden forzar el funcionamiento del coche de forma brusca

. Estos vehículos no surgieron de necesidades reales, sino de oportunidades tecnológicas y, por tanto, de interés militar, ofreciendo la posibilidad de limitar los riesgos tras las experiencias en Irak y Afganistán. En 2007, Waymo (Grupo Google) puso en marcha un proyecto destinado a reducir drásticamente los accidentes

 . Pero, ¿es realmente necesario? En el contexto de una economía en la que Amazon, Google y Facebook han acumulado más riqueza que nadie en la historia de la humanidad, la IA parece ser el último y más poderoso invento para devorar nuevos mercados, penetrar cada vez más en la experiencia humana y aumentar los beneficios y la posición de monopolio total

En un futuro cercano viviremos en casas con electrodomésticos inteligentes, mientras las guerras se libran en las calles con armamento hipertecnológico. El camino emprendido nos adentra en un mundo futurista que hemos visto en la televisión y que, siendo concebible, se está haciendo realidad. Pero nadie puede saber hasta qué punto esto reducirá nuestra capacidad de influir en la vida, y hasta qué punto se nos privará de libertad y autodeterminación. Existe una ventaja evolutiva en que una entidad sea capaz de predecir el comportamiento de otras entidades y modificar el suyo propio en respuesta a ello. Pero llegar a la conclusión de que, por esta razón, la socialidad debe ser sustituida por un robot (porque esa es la tendencia) es precisamente la razón por la que deberíamos tenerles terror.

Los humanos aprenden a través de la interacción. El desarrollo de la IA depende del software que la regula, pero se deriva de sus programadores, seres humanos con ideales y prejuicios específicos que salpican el código de los algoritmos de aprendizaje automático

. Estas máquinas aprenden estudiando las redes sociales e Internet, que sabemos que suele ser una atmósfera de ira, abuso y venganza, y desde luego no de profundidad, competencia o empatía. Si la inteligencia artificial está destinada a dirigir los procesos y sistemas informáticos del mundo, ¿en qué momento crítico deberíamos empezar a preocuparnos seriamente?   

https://www.comingsoon.it/film/io-e-caterina/14477/scheda/

https://techprincess.it/blade-runner-recensione/

https://www.justwatch.com/it/film/wargames-giochi-di-guerra

https://www.cinema-astra.it/movies/odissea-nello-spazio-versione-restaurata-4k/

https://theancestory.com/who-is-blake-lemoine/

https://wizblog.it/che-cose-alphabet-la-holding-che-controlla-google

https://www.randstad.it/knowledge360/news-aziende/cosa-e-un-chatbot-e-come-aiuta-le-attivita-lavorative/

https://it.mashable.com/7623/google-sospende-ingegnere-intelligenza-artificiale-senziente

https://www.treccani.it/vocabolario/senziente/

https://www.inc.com/ben-sherry/google-blake-lemoine-artificial-intelligence-sentient.html

https://time.com/6132399/timnit-gebru-ai-google/

https://www.linkedin.com/in/margaret-mitchell-9b13429/

https://thenewstrace.com/google-denies-that-its-ai-feels-like-a-person-after-suspending-the-engineer-who-is-convinced-it-does/236015/

https://www.elle.com/it/lifestyle/tech/a40295557/intelligenza-artificiale-di-google/

https://tecnologia.libero.it/intelligenza-artificiale-coscienza-google-57840

https://www.britannica.com/biography/Sundar-Pichai

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

https://lavocedinewyork.com/lifestyles/scienza-e-salute/2022/06/25/lintelligenza-lamda-ha-assunto-un-avvocato-per-difendersi-da-google/

https://www.theguardian.com/technology/2022/jun/12/google-engineer-ai-bot-sentient-blake-lemoine

https://www.fanpage.it/innovazione/tecnologia/unintelligenza-artificiale-di-google-sembra-senziente-ingegnere-sospeso-dopo-le-rivelazioni/#

https://areeweb.polito.it/strutture/cemed/rblx/3%20leggi%20robotica.htm

https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/

https://www.hdblog.it/2018/05/24/detroit-become-human-recensione/

https://io.google/2022/speakers/jen-gennai/

https://www.nelnomedellaverita.it/wp/google-sospende-lingegnere-blake-lamoine-per-la-rivendicazione-dellia-senziente/

https://beacongamingzone.com/its-alive-im-an-engineer-at-google-our-artificially-intelligent-robots-now-think-and-feel-like-8-year-olds/

https://www.economist.com/by-invitation/2022/06/09/artificial-neural-networks-are-making-strides-towards-consciousness-according-to-blaise-aguera-y-arcas

https://mydroll.com/blake-lemoine-google-and-searching-for-souls-in-the-algorithm/

Si un ordenador de repente se enamora

0 Comments