150210 el tecnooptimismo de ray kurzweil

El tecnooptimismo de Ray Kurzweil.
¿Está cerca la singularidad?¿ g
Ponente: Sara Lumbreras
IIT, ICAI, Universidad Pontificia Comillas
Discussant: Javier Monserrat
Universidad Autónoma de Madrid
á d d d f ll
2015
Cátedra CTR, ETSI, Universidad Pontificia Comillas

Estructura
 Ray Kurzweil
 La singularidad
El humanismo extensivo de Ray Kurzweil El humanismo extensivo de Ray Kurzweil
 Teoría de la mente de Ray Kurzweil
 Valoración de la singularidad
2
Cátedra de Ciencia, Tecnología y Religión
Escuela Técnica Superior de Ingeniería ICAI
J. Monserrat, S.Lumbreras, 2015

 Ray Kurzweil
 La singularidad
 El humanismo extensivo de Ray Kurzweil
Ray Kurzweil

Ray Kurzweil, ingeniero
 Ingeniero de sistemas
E d d i Emprendedor y empresario
 Jefe de Ingenieros de Google desde 2012
 Fascinado por los ordenadores desde la infancia
 Experto en reconocimiento de patrones
(Narrow AI):
 Siri
 Omnipage, primer sistema de
reconocimiento de caracteres
 Kurzweil Educational Systems (primerKurzweil Educational Systems (primer
lector para ciegos)
 Primer piano electrónico
 Primer chatbot Primer chatbot
4

Kurzweil en los medios
5

Más que un ingeniero
 Antropólogo computacional
 Filósofo y pensador en general
 Postura espiritual abierta (asistió a una escuela unicista)
 Futurólogo
La humanidad superará los límites que hasta ahora le impone la
bi l í t é d l t l íbiología a través de la tecnología
 Co‐fundador en de la Singularity University (2008) junto con Peter Diamandis
(“Abundance: The future is better than you think”).
 Busca acelerar el cambio tecnológico a través de educación especializada Busca acelerar el cambio tecnológico a través de educación especializada.
“Educate, inspire and empower leaders to apply exponential technologies
to address humanity’s grand challenges”
6

El pensamiento de Kurzweil
1  Humanismo extensivo
 Sin reducir lo humano, quiere elevar
a las máquinas hasta converger en una
transhumanidad.
2  Para conseguir que el hombre y la
máquina puedan encontrarse, deben
coincidir su función principal. p p
 Esta función principal Kurzweil la
identifica con el reconocimiento de
patrones
3
patrones.
 La singularidad: la humanidad conseguirá
trascender a los límites que le impone latrascender a los límites que le impone la
biología a través de la tecnología, una vez se
haya producido esta convergencia con las
á i
7
máquinas.

 Ray Kurzweil
 La singularidad
La singularidad

La singularidad
“Entonces, ¿qué es la Singularidad? Es un tiempo venidero en el que el
ritmo del cambio tecnológico será tan rápido y su repercusión tan
profunda que la vida humana se verá transformada de formap q
irreversible. Aunque ni utópica ni distópica, esta Era transformará los
conceptos de los que dependemos a la hora de dar significado a nuestras
vidas ya sea en lo que se refiere a modelos de negocios o al ciclo de la
vida (incluyendo la muerte). Así, comprender la Singularidad cambiará la
perspectiva sobre la relevancia de nuestro pasado y sus repercusiones en
el futuro, ya que su comprensión cambia intrínsecamente la visión que
cada uno tiene de la vida en general y de su propia vida en particular Acada uno tiene de la vida en general y de su propia vida en particular. A
las personas que han entendido la Singularidad y que han reflexionado
sobre sus implicacionesen su propia vida yo las llamo “singularistas” (SIN).
9

La Ley de los Retornos Acelerados
 Ley del tiempo y el caos: si en un proceso el
caos está aumentando, el tiempo en él se alarga
(el intervalo de tiempo entre dos sucesos(el intervalo de tiempo entre dos sucesos
importantes es cada vez más largo) y viceversa.
 E.g. el universo, la vida de un organismo.
 Subley de los retornos acelerados: Si en un
proceso el caos se está reduciendo, el tiempo en
él se acelera (el intervalo de tiempo entre dos
sucesos importantes es cada vez más corto).
 E.g. Ley de Moore: cada dos años se duplica
el número de transistores que pueden integrarse
en un circuito de un tamaño dado RK extiendeen un circuito de un tamaño dado. RK extiende
esto a la potencia de cálculo en general.
 Optimismo: las barreras no duran. El
progreso siempre encuentra otra manera.
10

Resumen de sus predicciones (ASM, 1999)
 2009:
 Existen ordenadores que se llevan puestos, por ejemplo en joyería
 Transacciones comerciales a través de ordenador
 Teléfonos traductores
 E‐books, teleconferencias
 2019
 $1000 = cerebro humano $1000 = cerebro humano
 Realidad virtual completa
 2029
 $1000 = 1000 cerebros humanos
C ió fi i t t b d d ibl j l h bilid d Conexión eficiente entre cerebro y ordenadores; es posible mejorar las habilidades
humanas.
 Las máquinas han leído todo el conocimiento disponible.
 Los ordenadores están empezando a pasar el test de Turing.
2099 2099:
 No hay distinción clara entre humanos y máquinas.
 No tienen una presencia física permanente.
 La muerte pierde su significado
 Mucho tiempo después…
 La consciencia se expande y acaba por llegar a todo el universo:“el universo despierta”.
 “El destino del universo es una decisión que todavía ha de tomarse, una que
11
consideraremos inteligentemente cuando llegue el momento”.

Las seis épocas
 El universo en seis épocas:
 Física/ Química
 Biología (ADN)
 Cerebro,
 Tecnología
 Fusión cerebro‐
tecnología
 El despertar del universop
12

Tecnologías emergentes– Genética, Nanotecnología, Robótica
 La singularidad se fundamenta en el desarrollo de
estas técnicas
 Genética: reprogramar la biología, modificando el
ADN y su expresión, para erradicar la enfermedad y
extender nuestras capacidades.
 El genoma humano ya ha sido secuenciado.
 La investigación en el uso de células madre,
en expresión génica y en ingeniería genética
avanza inexorablementeavanza inexorablemente.
 Nanotecnología: reconstruir el mundo y nuestros
cuerpos molécula a molécula.
 Nanomotores de 50 átomos (Universidad de
Groningem)
 Robótica: ser creadores de mentes Robótica: ser creadores de mentes
 Narrow AI
 OpenWorm
 Blue Brain Project
13
 Primeras interfaces

 Ray Kurzweil
 La singularidad
El humanismo extensivo

El humanismo extensivo
 Para que sea posible que humanos y máquinas confluyan, Kurzweil
extiende la definición de lo humano.
 El ser humano no se reduce sino que se extiende a las máquinas El ser humano no se reduce, sino que se extiende a las máquinas
espirituales.
 En el 2029 las máquinas superarán ampliamente el test de Turing.
 La condición humana se extenderá a los cyborgs y a una red externa de La condición humana se extenderá a los cyborgs y a una red externa de
computación.
 Asegura que las máquinas serán entonces conscientes, libres y dotadas de
individualidadindividualidad.
15

El humanismo extensivo frente al reduccionismo
La metáfora fuerte del ordenador:
El hombre es un ordenador biológico
Humanismo extensivo
Consciencia
Reduccionismo
Robotismo
mecánico‐determista
o sc e c a
libre albedrío,
identidad
personalidad emotividadmecánico determista personalidad, emotividad...
son fundamentales y las
presentan tanto el ser
humano como las máquinas
Consciencia
libre albedrío,
d d d
humano como las máquinas
espirituales
identidad
personalidad, emotividad...
Tienen sólo valor
16
epifenomenológico

¿ Qué es la representación (actuación de la mente)?
Paradigma
mecanicista
 Es puro registro y computación mecánica
 Epifenomenalismo psíquico
 Sin causalidad descendente
computacional
Sin causalidad descendente
 Se interpreta el mecanicismo según el modelo de la
computación mecánica en el ordenador: serial o
conexionista
La respuesta depende de la
teoría previa sobre la
Kurzweil cree que
el soporte físico noteoría previa sobre la
sensación/percepción/ conciencia
el soporte físico no
es relevante, sino
sólo los patrones
codificados en él
Paradigma
l ti
 Es la experiencia psíquica producida por la base
neuronal que hace nacer los qualia.
S t d i t á i / t i levolutivo
emergentista
 Soporte de sistemas mecánico/computacionales
 Con causalidad descendente controladora de lo
físico‐químico
17

 Ray Kurzweil
 La singularidad
Teoría de la mente basadaTeoría de la mente basada
en el reconocimiento de
patrones

Teoría de la mente basada en el reconocimiento de patrones
 El cerebro es esencialmente un sistema jerárquico de
reconocimiento de patrones.
 Esto tiene que interactuar con un sistema de objetivos, que se
procesan en el “cerebro antiguo”.
19

Receta para crear una mente
 Podemos crear un neocórtex digital
 Esta mente artificial puede llenarse de contenido volcando las conexionesEsta mente artificial puede llenarse de contenido volcando las conexiones
neuronales de un ser existente o bien podemos darle experiencias para que
aprenda por sí mismo.
 Debemos añadirle un módulo de pensamiento crítico, otro módulo para
identificar cuestiones no resueltas y un módulo más para que su existencia
tenga un propósito: la máquina necesita unos valores morales.
 Si los patrones son iguales, la máquina realizará todas las funciones del
cerebro, incluida la consciencia. Estas son las máquinas espirituales.
20

VALORACIÓN CRÍTICA DE KURZWEIL
TEORÍA DE LA MENTE BASADA
Discussant : JAVIER MONSERRAT
TEORÍA DE LA MENTE BASADA
EN EL RECONOCIMIENTO DE PATRONES:
RECONOCIMIENTO COMPUTACIONAL
Y RECONOCIMIENTO NEURONAL
21

EL RAY KURZWEIL DE LA INGENIERÍA
COMPUTACIONAL DE LA MENTE
[ H t C t Mi d Th S t f H Th ht R l d ][ How to Create e Mind: The Secret of Human Thought Revealed ]
Un proceso simple: reconocimiento de patrones d l bUn proceso simple: reconocimiento de patrones
Rasgos simples y complejos
Escalas e identidad de rasgos
Jerarquía y organización de rasgos
Reconocimiento de palabras
y de textos escritos
Jerarquía y organización de rasgos
Eliminación, selección, conexion de patrones:
los modelos de Márkov
Procesos bottom up y top down
Reconocimiento de voz
Procesos bottom up y top down
Sistemas de links y redes de patrones
Gramáticas lógicas de patrones
Algoritmos lógico-matemáticos
Reconocimiento de
imágenes visualesAlgoritmos lógico matemáticos
… … … …
22

El lugar de la ingeniería computacional de Kurzweil
en relación con las escuelas formales de la percepciónen relación con las escuelas formales de la percepción
Visión artificial
en IA clásica como En congruencia
procesamiento de rasgos:
escuela serial David Marr
con ella
Escuela PDP conexionista:
MacLelland/ Rummelhart
La teoría del procesamiento
Aplicada
parcialmente
La teoría del procesamiento
de frecuencias multimodal:
Fourier,
Karen y Russel De Valois
La ignora
y
La teoría de la
percepción directa: La ignora
James J. Gibson y su escuela
Teoría neural clásica:
d l La interpreta
23
Redes neurales
y módulos corticales
La interpreta
computacionalmente

Para Kurzweil el sistema nervioso es un sistema de análisis biológico de patrones:
funciona aplicando los mismos sistemas de reconocimiento de patrones de la IA
Cerebro antiguo
Neocortex
Células complejas e hipercomplejas
Hipercolumnas
300 millones de reconocedores neurales de patrones
LA MENTE se construye igual en …
UN CYBORG UN HOMBRE
Observación: entender que la clave para el
funcionamiento de la mente
es el análisis de patrones, bien matizado,
de acuerdo con las evidencias
fenomenológicas y neurológicas,
es aceptable y bien orientado
24
es aceptable y bien orientado…

Para la METÁFORA FUERTE del ordenador en IA
El sistema neural es una aplicación biológica
de los mismos algoritmos computacionales que gobiernan un CYBORG
Este punto de vista, del que participa Kurzweil,p q p p
NO ES ADMISIBLE PARA EL CONSENSO MAYORITARIO
EN LA CIENCIA Y EN LA SOCIEDAD CONTEMPORÁNEA
PORQUE NO EXISTE
IDENTIDAD ONTOLÓGICA
PORQUE NO EXISTE
IDENTIDAD FUNCIONAL
El factor sensibilidad-conciencia,
propio de la ontología psico-bio-física
impone procesos, funciones y estados
distintos del puro
procesamiento computacional
S t l f l íSe argumenta por la fenomenología
Se argumenta por la neurología
25

La mente humana se funda
en una red neuronal
de tejidos vivos
con sensibilidad-conciencia
La mente humana no se funda
en la ingeniería computacional
de un ordenador
mecánico y ciego
26

EN LA TEORÍA DE LA MENTE DE KURZWEIL
TRANSLUCE UN PROBLEMA DE FONDO:
LA IDENTIDAD O NO-IDENTIDAD
ONTOLÓGICA Y FUNCIONAL
ENTRE MENTE BIOLÓGICA Y MENTE COMPUTACIONAL
27

L id tid d t ló iLa no‐identidad ontológica no es un
obstáculo insalvable para la p
singularidad argumentada
K ilpor Kurzweil,
pero le quita fuerzap q

La no‐identidad ontológica
 Con un desarrollo suficiente de los procesos biológicos y de la
nanotecnología, sería en principio posible crear vida artificial con el mismo
sustrato que la vida natural Pero podría tratarse de sistemas mecánicossustrato que la vida natural. Pero podría tratarse de sistemas mecánicos.
 Se han realizado ya los primeros avances en ese sentido (Steen
Rasmussen), aunque aún estamos lejos de crear sensibilidad.as usse ), au que aú esta os ejos de c ea se s b dad.
29

La no‐identidad ontológica
 Si hubiera identidad ontológica no parecería razonable negar la
posibilidad de una identidad funcional: así, un cerebro artificial
construido a partir de neuronas que pasara el test de Turing podría
quizá considerarse consciente…
 Pero, el argumento de la no‐identidad ontológica retrasa la
singularidad y le quitaría fuerza, pero no la evitaría en el sentido de
Kurzweil y del trans‐humanismo.y
 La identidad ontológica no implica que sean indistinguibles o que
tengan el mismo valor como entidades naturales (e g diamantestengan el mismo valor como entidades naturales (e.g. diamantes
naturales vs. diamantes artificiales).
30

VALORACIÓN CRITICA DE KURZWEIL
Discussant: JAVIER MONSERRAT
PRESENTACIÓN Y DISCUSIÓNPRESENTACIÓN Y DISCUSIÓN
DE LA IDEA DE CONCIENCIA EN KURZWEIL:
CONCIENCIA PSICO-BIO-FÍSICA
Y CONCIENCIA COMPUTACIONAL
IDENTIDAD Y NO-IDENTIDAD
ONTOLÓGICA Y FUNCIONALONTOLÓGICA Y FUNCIONAL
31

La intención del “humanismo extensivo” es igualar al hombre con el cyborg
por elevación : la máquina a máquina espiritual y el hombre a hombre transhumano
El problema de Kurzweil es que entre cyborg y hombre
parece haber una distancia insalvable: la concienciaparece haber una distancia insalvable: la conciencia
como algo que emerge de la condición biológica
(el cyborg no es biológico, el hombre es biológico)
Para salvar el problema Kurzweil sigue una doble estrategia
La conciencia (sensibilidad-conciencia)La conciencia (sensibilidad-conciencia)
no depende de la constitución o hardware biológico
En realidad el pensamiento humano
no sabe lo que es la conciencia
32

Existe un concepto general de
Conciencia
Subjetualidad psíquicaSubjetualidad psíquica
Identidad
Personalidad
EmotividadEmotividad
Libre albedrío
………..
Aplicable unívocamente…
A las máquinas espirituales
con harware computacional
mecánico y ciego
Al ser humano
con hardware biológico
33
y g
Las propiedades espirituales transhumanas no dependen de la biología

Es un hecho que ha habido pensadores que han oscurecido la idea de conciencia:
siempre es posible “marear la perdiz” y “echar tinta de calamar” sobre la conciencia …
Pero frente a la “tendencia” uniformista de Kurzweil hay un gran consenso
• En la fenomenología básica de la realidad (tres mundos de Popper)
• En la ciencia: epistemología filosofía psicología neurología medicina• En la ciencia: epistemología, filosofía, psicología, neurología, medicina…
• En la sociedad: por la experiencia personal y social…
• La sensibilidad conciencia es un hecho real
que responde a propiedades fenomenológicas precisas…
• La conciencia es una propiedad psico bio física de los seres vivos• La conciencia es una propiedad psico-bio-física de los seres vivos
que emerge de la materia, de la vida y de la psique animal-humana…
• Los procesos psíquicos (en la unidad psico-bio-física) tienen una
causalidad descendente controladora del determinismo mecánicocausalidad descendente controladora del determinismo mecánico
de lo bio-físico …
• La conciencia es el factor (psico-bio-físico) clave para entender
cómo funciona la mente animal y humana,cómo funciona la mente animal y humana,
cómo se produce conocimiento ordinario y científico,
cómo se establecen los consensos universales
que dan sentido a la vida personal y social …
34
q p y

La mente animal/humana depende de un equilibrio funcional entre
determinismos (cuerpo clásico, mecánica clásica)
e indeterminismos (psique mecánica cuántica)
EN CONCLUSION…
e indeterminismos (psique, mecánica cuántica)
La mente es un producto causado por lo psico-bio-físico
En consecuencia, entre cyborg y ser vivo …
NO EXISTE IDENTIDAD ONTOLÓGICA
[ Tienen un hardware esencialmente distinto ]
NO EXISTE IDENTIDAD FUNCIONAL
[ Implementan procesos similares, pero no de la misma forma ]
35

No obstante, la no-identidad ontológica y la no identidad-funcional …
b h b lbCyborg y hombre albergan
procesos, funciones y estados similares (diseñados por simulación en los cyborg)
pero distintos (por responder a diversas ontologías funcionales) …
Conciencia computacional
Subjetualidad computacional
Identidad computacional
Conciencia biológica
Subjetualidad biológica
Identidad biológica
Por ello,
debe distinguirseIdentidad computacional
Personalidad computacional
Emoción computacional
Libre albedrío computacional
Identidad biológica
Personalidad biológica
Emoción biológica
Libre albedrío biológico
debe distinguirse
entre…
Libre albedrío computacional Libre albedrío biológico
Una nueva ética del comportamiento moral
para con las nuevas máquinas espiritualespara con las nuevas máquinas espirituales…
No puede afirmarse una continuidad ontológica y funcional
entre la mente humana y su extensión en cyborgs y en la red computacionaly y g y p
36

EL HORIZONTE DE UNA POSIBLE
INGENIERÍA CUÁNTICA
NEUROLOGÍA CUÁNTICA
Y PROPIEDADES CUÁNTICAS
LA POSICIÓN DE KURZWEIL
Razones de su argumentación
DE LA MATERIA
g
LA POSIBOLIDAD TEÓRICA DE UNLA POSIBOLIDAD TEÓRICA DE UN
CYBORG CUÁNTICO
37

 Ray Kurzweil
 La singularidad
Valoración de la singularidad

La transición hacia la singularidad
La transición hacia la singularidad presenta retos
considerables.
Kurzweil habla desde el optimismo
(tecnooptimismo):
 Abundancia de recursos para toda la
población
 Confianza en las capacidades humanasp
 En algunos casos el optimismo parece fe: “Estoy
seguro de que lo resolveremos cuando lleguemosseguro de que lo resolveremos cuando lleguemos
allí”.
 Sin embargo los desarrollos previos a la Sin embargo, los desarrollos previos a la
singularidad podrían dar lugar a una crisis insalvable.
 Paradoja de Fermi
39

La transición hacia la singularidad
 Los desarrollos previos a la singularidad podrían dar lugar a una
crisis insalvable.
 Desigualdades en el acceso a la tecnología
 Sentido en una vida indistinguible de una simulada
 Decisiones sin consecuencias sobre otros seres
conscientes
 Decisiones reversibles
 Decisiones que no implican elección (atención ilimitada,q p ( ,
tiempo ilimitado)
40

VALORACIÓN CRÍTICA DE KURZWEIL
Discussant: JAVIER MONSERRAT
¿ESTÁ CERCA LA SINGULARIDAD?
41

VALORACIÓN DE LA IDEA DE SINGULARIDAD EN RAY KURZWEIL
PRESUPUESTO:
No ponemos en duda los avances sorprendentes
que puedan producirse por la tecnología:que puedan producirse por la tecnología:
computación, control del universo,
cyborgs, nanotecnología, longevidad…
CRITERIO GENERAL:
Todo debe valorarse desde los principios deTodo debe valorarse desde los principios de
no-identidad ontológica y no identidad funcional
Consecuencia: la psique humana no podrá nunca estar conectada
i t ló i i f i l t l b l d tni ontológica ni funcionalmente a los cyborgs o a las redes externas
LA TECNOLOGÍA ES UN DISEÑO HUMANO:
Sometido a los intereses humanos y de la especie
por criterios morales y éticos
42

VALORACIÓN DE LA IDEA DE SINGULARIDAD EN RAY KURZWEIL
NO INTERESA UN UNIVERSO
DE MÁQUINAS INDEPENDIENTES:
Má i d bMáquinas, redes, cyborgs,
capaces de autoprogramación y de ingeniería propia,
independientes, al margen del control humano
[ Stanley Kubrick: la Odisea en el Espacio 2001,
la máquina frente al hombre ]
¿INMORTALIDAD?
Una creencia posible,
pero objetivamente incierta,pero objetivamente incierta,
para el individuo
y mucho más para la totalidad de la humanidad
La SINGULARIDAD, en un sentido u otro,
no es problema para la fe cristiana
43

44

45

46

Santa Cruz de Marcenado, 26
28015 Madrid
Tel +34 91 542 28 00Tel +34 91 542 28 00
Fax + 34 91 542 31 76
info@iit.upcomillas.es
www.upcomillas.es

150210 el tecnooptimismo de ray kurzweil

Recomendados

Recomendados

Más contenido relacionado

Similar a 150210 el tecnooptimismo de ray kurzweil

Similar a 150210 el tecnooptimismo de ray kurzweil (20)

Último

Último (20)

150210 el tecnooptimismo de ray kurzweil