El documento presenta el punto de vista del autor de que los procesos mentales conscientes no son completamente algorítmicos y dependen de aspectos de la física que aún no comprendemos completamente. Argumenta que la verdad matemática y la intuición no pueden encapsularse dentro de un esquema formalista o algorítmico según lo demuestran los teoremas de incompletitud de Gödel. Finalmente, cuestiona la extrapolación de que los procesos mentales complejos pueden explicarse completamente mediante los principios físicos actuales, al igual que

1. [TÍTULO DEL DOCUMENTO]
[Subtítulo del documento]

2. En The Emperor's New Mind (en adelante Emperor) intento presentar un punto de vista (que creo
es nuevo) concerniente a la naturaleza de la física que puede subyacer a los procesos de
pensamiento. Como parte de mi argumento, señalo que puede haber campo, dentro de las leyes
físicas, para una acción que no sea algorítmica -es decir, que no pueda ser simulada por una
computadora- aunque arguyo que es probable que tal acción no algorítmica pueda surgir solo en un
área de la física donde existe una laguna importante en nuestra comprensión física presente: la
tierra de nadie entre la física cuántica y la física clásica.... También arguyo que hay buena evidencia
en el sentido de que el pensamiento consciente mismo no es una actividad algorítmica y que
consecuentemente el cerebro debe estar haciendo uso de procesos físicos no algorítmicos de una
manera esencial, siempre que la conciencia entra en juego. Debe haber, entonces, aspectos de la
acción del cerebro que no puedan ser adecuadamente simulados por una computadora, al menos
en el sentido que entendemos hoy el término.
Así, el punto de vista que defiendo discrepa tanto del de la "inteligencia artificial fuerte" (o del
"funcionalismo" NOTA 2)... como de un punto de vista contrario promovido particularmente por
Searle NOTA 3. La inteligencia artificial fuerte afirma que la acción del cerebro no es sino la de una
computadora y que las percepciones conscientes surgen como manifestaciones de la puesta en
ejecución de computaciones; en cuanto al punto de vista contrario, [el de Searle] afirma que aunque
la computación no evoca por sí misma la conciencia, una simulación de la acción del cerebro sería
sin embargo posible en principio, puesto que el cerebro es un sistema físico que se comporta
precisamente de acuerdo con algunas bien definidas acciones matemáticas. Mi desacuerdo con este
último punto de vista viene del hecho de que "matemáticamente bien definidas" no implica por sí
"computable".
..................
He aquí las cuestiones centrales por las que debemos preguntarnos: ¿Son las mentes objeto de las
leyes físicas? ¿Cuáles son, en realidad, las leyes físicas? ¿Son las leyes físicas computables (es decir,
algorítmicas)? ¿Son los procesos de pensamiento (consciente) computables?
En mi opinión, los estados mentales son cualidades que de hecho dependen de las mismas leyes
físicas que gobiernan los objetos inanimados. Las mentes que conocemos son aspectos de la
actividad de los cerebros (cerebros humanos, por lo menos, pero probablemente también los de
ciertos animales) y los cerebros humanos son parte del mundo físico. Así, el estudio de la mente no
puede divorciarse del estudio de la física. ¿Significa esto que se necesita una nueva comprensión
física o tenemos ya suficiente conocimiento de las leyes físicas pertinentes para la comprensión de
los fenómenos mentales? En la opinión de la mayoría de los filósofos, físicos, psicólogos y
neurólogos, sabemos ya toda la física que podría tener alguna pertinencia sobre estos temas. Me
permito disentir de esa opinión.
..................
Arguyo que algunas de las manifestaciones de la conciencia son demostrablemente no algorítmicas
y propongo, entonces, que los fenómenos mentales conscientes deben de hecho depender de una
física no computacional.... De acuerdo con mi posición, los fenómenos de la conciencia ni siquiera
podrían ser simulados por meras computaciones. Ninguna máquina adecuadamente inteligente...

3. podría ser una "computadora" en el sentido que este término tiene hoy día,... sino que tendría que
valerse de esa física no algorítmica que arguyo es un ingrediente necesario de la base física del
pensamiento consciente. En este momento carecemos totalmente de la comprensión física
necesaria para construir tal presunta "máquina", incluso en principio.
..................
¿Puede una computadora tener mente? Recordemos la prueba de Turing NOTA 4.... Dejando aparte
la cuestión de si alguna computadora pudiera de hecho pasar la prueba, supongamos -para ayudar
al argumento- que hubieran sido ya construidas máquinas que la pasaran. Debemos enfrentar la
tesis operacionalista de que tales computadoras deban considerarse que piensan, sienten,
comprenden, etc., meramente en virtud de haber pasado la prueba.
Es mi opinión que tales cualidades mentales -y ciertamente la central de ser consciente- son
atributos físicos objetivos que un ente puede o no poseer. Con la prueba de Turing solamente
estaríamos haciendo lo posible por determinar si el ente en cuestión posee los atributos respectivos
(en nuestro caso, la conciencia). Para mí, la situación no es diferente en principio de, por ejemplo,
el intento de un astrónomo de determinar la masa de una estrella. Ser capaz de dar contestaciones
similares a las humanas en una prueba de Turing no es ciertamente lo mismo que tener cualidades
mentales similares a las humanas, pero puede servir como una buena indicación de que tales
cualidades están de veras en la máquina....
¿Cuánto tiempo deberá pasar para que una computadora pase de hecho la prueba de Turing?
Depende realmente de lo estrictos que seamos en los criterios de aprobación. Mi propio pronóstico
es que una buena aprobación no se dará con ninguna computadora algorítmica (es decir, una
computadora basada en los principios de cálculo que usamos hoy) -por lo menos en el futuro
previsible-.... En algunos casos claramente delineados, sin embargo, se han alcanzado ya resultados
de conducta "casi humana" muy impresionantes. Las computadoras jugadoras de ajedrez proveen
un ejemplo de máquinas que exhiben lo que puede calificarse como "conducta inteligente". "Deep
Thought" (programada por Hsiung Hsu) ha alcanzado algunas notables victorias en juegos contra
grandes maestros. Creo que es claro, sin embargo, que tales computadoras juegan ajedrez muy
distinto de los seres humanos; dependen mucho más de la profundidad de extensos análisis y mucho
menos de "juicios intuitivos" -¡sean estos lo que fueren!-.
..................
El argumento de Searle se dirige contra el punto de vista de la "inteligencia artificial fuerte" (o
funcionalismo) que pretende que basta solamente la construcción de un algoritmo (suficientemente
elaborado) para evocar cualidades mentales tales como conciencia, comprensión o intencionalidad.
Considero el argumento de Searle muy persuasivo con respecto a programas de una complicación
relativamente limitada... pero de ningún modo es conclusivo -especialmente cuando se aplica a los
programas de computación inmensamente más complicados que, de acuerdo con el punto de vista
de inteligencia artificial fuerte, serían necesarios para conjurar la verdadera conciencia-....
.................

4. El punto de vista de la inteligencia artificial fuerte parece derivarse en parte del hecho de que la
individualidad de una persona no depende de los átomos particulares que componen su cuerpo.
Hay una continua sustitución de prácticamente todo el material del cuerpo viviente de cualquier
persona....Por ejemplo, si el contenido material completo de una persona fuera canjeado con
partículas correspondientes de los ladrillos de su casa, nada absolutamente habría sucedido. Lo que
parece distinguir a una persona de la casa en que habita es la configuración en que sus partes
constitutivas están organizadas, no la individualidad de estos constituyentes mismos. Así, una
persona no es más que una "configuración de información" y esta información podría, en principio,
ser trasladada de un material a otro. El punto de vista de la inteligencia artificial fuerte es
simplemente que es el "contenido informático" de esta configuración lo que caracteriza a cualquier
individuo particular. Esta idea ha ganado fuerza de la experiencia con las modernas computadoras
de alta velocidad; gracias a ellas estamos ahora familiarizados con el fenómeno de la información
que se transforma de una realización a otra (por ejemplo de una configuración de campos
magnéticos en un disco flexible a una colección de desplazamientos de cargas en la memoria de la
computadora y de ahí a una familia de grietas en la iluminación de una pantalla de rayos catódicos).
Además, existe la justificación teórica del hecho de que las computadoras modernas de propósito
general son, en efecto, ejemplos de máquinas universales de Turing. Cualesquiera dos tales
máquinas son completamente equivalentes la una a la otra en el sentido de que, sin relación al
hardware particular en que consista cada máquina, habrá siempre algún software adecuado que
pueda efectivamente convertir cualquiera de ellas en la otra. En cierto sentido, el hardware se ve
como inatinente, y se considera que la información esencial de la operación de la máquina reside
en el programa, esto es, en el software.
.................
Uno de los más importantes desarrollos en la historia de las matemáticas ocurrió en este siglo a
fines de los años veinte y principios de los treinta, cuando el concepto de algoritmo general fue
hecho matemáticamente preciso y se demostró que hay algunos procedimientos matemáticos que
no pueden ser descritos por ningún algoritmo. Existen varias diferentes maneras -completamente
equivalentes entre sí- de formalizar el concepto de algoritmo. La que es intuitivamente más clara
fue propuesta por Alan Turing...: un mecanismo idealizado que opera con una "cinta"
potencialmente infinita sobre la cual se representan las entradas e instrucciones [de un programa].
Solo una porción finita de la cinta está marcada con los datos e instrucciones. Así, aunque el
mecanismo puede lidiar con datos de tamaño ilimitado, su entrada es siempre finita....Es un hecho
notable que cualquier proceso computacional (que opere con cantidades discretas finitas) pueda
ser descrito como la acción de alguna máquina Turing. Por lo menos, esto es lo que pretende la
llamada tesis de Church-Turing, en su forma matemática original. El apoyo para esta tesis viene en
parte del cuidadoso análisis de Turing de las distintas clases de operación que uno podría considerar
de hecho como un proceso computacional o algorítmico y en parte del impresionante hecho de que
todas las variadas propuestas alternativas para el significado de "algoritmo" (presentadas
aproximadamente al mismo tiempo por Church, Kleene, Gödel, Post y otros) resultaron ser
completamente equivalentes. Algunas de estas propuestas tenían la apariencia inicial de ser
completamente diferentes, de modo que su equivalencia es una indicación muy fuerte de que son
meras descripciones alternativas de un concepto matemático abstracto absoluto, a saber, la
computabilidad....Como tantas otras ideas matemáticas, especialmente las más profundamente

5. bellas y fundamentales, la idea de computabilidad parece tener una cierta clase de realidad
platónica NOTA 5. Esta cuestión misteriosa sobre la realidad platónica de los conceptos matemáticos
es un tema central de Emperor....Turing diseñó originalmente sus "máquinas" para contestar una
pregunta hecha por David Hilbert: ¿Es posible en principio encontrar un procedimiento matemático
(un algoritmo) para resolver todos los problemas matemáticos de una clase especificada? Turing (e
independientemente Church) mostró que la contestación es "no". Turing parafraseó el problema de
Hilbert como la cuestión de decidir si una máquina Turing dada, cuando actúa sobre una cinta
específica, se llega o no a detener; y mostró... que no hay algoritmo para contestar esta pregunta
de manera general.
.................
La cuestión de la verdad matemática y de cómo la afirmamos es fundamental. ¿Cómo deciden de
hecho los matemáticos cuáles enunciados matemáticos son verdaderos y cuáles falsos? ¿Siguen
algún algoritmo... o tienen otra ruta hacia la verdad por medio de una "intuición" misteriosa que no
puede ser tratada algorítmicamente?... Afortunadamente (para mi manera de pensar), en 1931 Kurt
Gödel presentó su famoso teorema.... Mostró que en cualquier sistema formal coherente que sea
suficientemente amplio para contener la aritmética y las reglas normales de procedimiento lógico,
se pueden construir enunciados matemáticos bien definidos que no se pueden probar –ni su
negación tampoco- usando las reglas de ese mismo sistema formal. Así, el sistema no puede ser
completo en el sentido en que Hilbert y otros habrían querido. Todavía peor (para el punto de vista
formalista NOTA 6), dada la forma en que las proposiciones gödelianas NOTA 7 son construidas,
podemos ver, usando nuestra intuición y comprensión de los símbolos formales, que tales
proposiciones son verdaderas. Todo esto nos dice que los mismos conceptos de verdad, significado
e intuición matemática no pueden encapsularse dentro de un esquema formalista.
Esto no solo es una mala noticia para los formalistas matemáticos. También lo es para los defensores
de la inteligencia artificial fuerte. Porque hay una relación muy estrecha entre el concepto de un
algoritmo y el concepto de un sistema formal.... Por cada sistema formal hay siempre un algoritmo
que genera precisamente todas las proposiciones que pueden ser probadas dentro de ese sistema.
Conversamente, dado un algoritmo para generar enunciados matemáticos, se puede siempre
construir un sistema formal que incorpore todos esos enunciados como axiomas del sistema. Esto
nos dice que la verdad matemática no es cuestión algorítmica. Nos dice también que el significado
y la intuición tampoco son materia algorítmica....
.................
El mensaje me queda claro: la verdad matemática no es algo que afirmamos meramente por el uso
de algoritmos. Creo también que nuestra conciencia es ingrediente esencial de nuestra comprensión
de la verdad matemática. Debemos "ver" la verdad de un argumento matemático para
convencernos de su validez. Este "ver" es la misma esencia de la conciencia NOTA 8. Cuando nos
convencemos de la validez del teorema de Gödel no solo lo "vemos" sino que, por eso mismo,
revelamos la misma naturaleza no algorítmica del propio proceso de "ver".
.................
* * *

6. LAS FALACIAS MANIDAS DE UN EMPERADOR
por Donald Perlis
La falacia de extrapolación. Niels Bohr y Max Delbruck dijeron que la explicación de los seres vivos
requeriría el descubrimiento de nuevos rincipios físicos sobre la organización de la materia. Pero la
vida resultó estar más bien constituida por fantásticos e insospechados mecanismos de juguetería
química, adecuadamente complejos, explicables simplemente en términos de la ciencia física
existente. La extrapolación de moléculas simples a complejas resultó falsa: las simples no se
reproducen ni metabolizan, pero las complejas sí pueden hacerlo. Lo mismo puede resultar cierto
de la mente, de maneras que todavía no podemos siquiera imaginar.
La inteligencia artificial fuerte y la experiencia interna. Penrose deja al lector con la impresión... de
que la inteligencia artificial fuerte es hostil a temas "peludos" como el de la experiencia interna real.
Pero eso está lejos de ser verdad: la inteligencia artificial fuerte sugiere que la experiencia interna
de veras está ahí y que cuando la encontremos nos daremos cuenta de que corresponde a procesos
informáticos muy, muy complejos.
Dualismo. En conjunto con Searle, Penrose... parece encontrar en la inteligencia artificial fuerte una
forma de dualismo, a saber, la supuesta pretensión de que es la configuración ( software, algoritmo)
y no la substancia ( hardware, cerebro) lo que constituye la mentalidad. Pero la mera configuración
por sí misma no es ni siquiera una acción, y por sí sola no hace nada. Son los procesos algorítmicos,
no las copias impresas estáticas de los algoritmos, lo que los practicantes de la inteligencia artificial
fuerte consideran importante. Intencionalidad. Penrose... observa correctamente que no se puede
sentir, o tener asombro o pensar sin que haya algo que se sienta o de lo que uno se asombre o que
se piense, esto es, la mente tiene sentido de dirección o intencionalidad. Esto también es un caso
de falacia de extrapolación: [en el caso del experimento mental de Searle, por ejemplo] un sistema
persona-más-programa suficientemente complejo podría en verdad comprender el chino.
.................
* * *
LAS CONFUSIONES DE UN FÍSICO
según McCarthy Penrose no cree que las computadoras construidas de acuerdo con los principios
físicos hasta ahora conocidos puedan ser inteligentes, y conjetura que una mecánica cuántica
modificada pudiera ser necesaria para explicar la inteligencia. También argumenta en contra de lo
que él llama "inteligencia artificial fuerte". Ninguno de los dos argumentos hace la menor referencia
a los 40 años de investigación en inteligencia artificial....
.................
Las mayores dificultades [para dotar de inteligencia a una computadora] no son problemas técnicos
matemáticos. Más bien, consisten en escoger un conjunto de predicados, funciones y fórmulas
adecuadamente generales para representar el conocimiento de sentido común....Estos y otros
problemas hacen pensar que tomará mucho tiempo alcanzar inteligencia artificial de nivel humano,

7. pero el progreso hasta el presente provee razones para sentirse animado sobre la posibilidad de
alcanzar esa meta mediante programas de computación.
.................
Penrose se pone a refutar la "inteligencia artificial fuerte", que es una tesis inventada por el filósofo
John Searle precisamente para ser refutada.
Tiene alguna relación con opiniones extendidas entre los investigadores de inteligencia artificial,
pero las sobresimplifica, especialmente pasando por alto el énfasis de la inteligencia artificial en
conocimientos y no solo en algoritmos. Como usa el término Penrose, es la tesis de que la
inteligencia es [solamente] cuestión de tener el algoritmo correcto.
Mientras que Penrose piensa que una máquina basada en la física clásica no tendrá nunca un
rendimiento al nivel humano, usa algunos argumentos de Searle en el sentido de que incluso si tal
máquina llegara a existir, el rendimiento no sería propiamente pensamiento.
.................
La mejor contestación [a los argumentos de Searle NOTA 9] es la "respuesta sistemática". En verdad,
el hombre no necesita saber chino; pero el "programa" presente en el libro de reglas al cual el
hombre sirve de hardware interpretativo, esencialmente sabría chino si es que logra producir
conversaciones no triviales. Si se contesta que el hombre podría haber memorizado las reglas,
deberíamos entonces distinguir entre la personalidad original del hombre y la personalidad china
que estaría interpretando.
Estas situaciones son comunes en informática. Una computadora puede compartir varios programas
[como si tuviera varias personalidades].... El hardware humano no soporta normalmente varias
personalidades, de modo que usar el mismo nombre para la persona física y su personalidad
raramente lleva a error NOTA 10.
.................
De acuerdo con las presentes ideas en inteligencia artificial, además de tener una gran cantidad de
conocimiento explícitamente representado, un programa de cuarto chino probablemente tendría
que ser introspectivo, es decir, ser capaz de observar su memoria y generar de esa observación
proposiciones sobre lo que está haciendo. Esto aparecería como conciencia a un observador
externo, justamente como el comportamiento humano inteligente nos lleva a adscribir conciencia
a nuestros semejantes. Penrose pasa esto por alto al decir: "la formación de juicios que es la marca
de la conciencia es algo que la gente de inteligencia artificial no tendría la menor idea de cómo
programar en una computadora". En realidad, la mayor parte de la literatura de inteligencia artificial
discute la representación de hechos y juicios sobre ellos en la memoria de la máquina.
Para usar la jerga de inteligencia artificial, la parte epistemológica de inteligencia artificial es tan
prominente como su parte heurística. El argumento de Penrose contra la inteligencia artificial que
más interesa a los matemáticos es que sea cual fuere el sistema de axiomas que se haya incluido en
un programa de computadora -por ejemplo, la teoría de conjuntos de Zermelo-Fraenkel- un hombre
puede formar una proposición de Gödel para el sistema, verdadera pero imposible de probar dentro
del sistema.

8. La respuesta más simple para Penrose es que formar una proposición Gödel a partir de una
expresión de lógica de predicados, toma solo una línea de programación en LISP NOTA 11.
Imaginemos este diálogo entre Penrose y un Penrose: Dígame el sistema lógico que usted usa y yo
le diré una proposición verdadera que no puede probar. Programa: Dígame usted cuál sistema usa
y yo le diré una proposición verdadera que usted no puede probar. Penrose: Yo no uso un sistema
lógico fijo.
Programa: Yo puedo usar cualquier sistema que usted elija, aunque más frecuentemente uso una
variante de ZF descendiente de la obra realizada en los años ochenta por David McAllester. ¿Le
imprimo el manual? Y con perdón suyo, la propuesta que usted me ha hecho es como un reto para
nombrar el número más largo que existe, teniendo yo que jugar de primero....
.................
Existe una intuición equivocada detrás de la creencia generalizada de que un programa no puede
hacer matemáticas al nivel humano; consiste en el supuesto de que una máquina debe
necesariamente trabajar dentro de un solo sistema axiomático, con una interpretación predefinida.
.................
NOTA 1 El sugestivo título del libro de Penrose, "The Emperor's New Mind",
alude al conocido cuento "La camisa nueva del emperador" como una manera
de
recordar que opiniones impopulares pueden sin embargo ser verdaderas. Para
la adecuada comprensión de esta selección, sugerimos tener muy en cuenta
las
selecciones sobre computabilidad y máquinas de Turing incluidas en esta
colección. Nota del editor.
NOTA 2 El punto de vista funcionalista está muy bien representado en esta
antología, especialmente por las selecciones de Dennett, Newell y Simon, y
Fodor y Pylyshyn. Nota del editor.
NOTA 3 Ver la selección de Searle en esta misma colección. Nota del
editor.
NOTA 4 Confróntese la selección de Turing en el capítulo primero de esta
colección. Nota del editor.
NOTA 5 El filósofo griego Platón (siglo IV antes de Cristo) enseñó que la
única verdadera realidad existe en un mundo distinto del mundo natural que

9. conocemos por los sentidos. Las cosas que vemos y tocamos son solamente
sombras de las verdaderas realidades: las ideas. Estas no existen en el
mundo material y solo tenemos acceso a ellas por el ejercicio de la razón.
Por ejemplo, en la realidad empírica encontramos muchas aproximaciones a
un
triángulo equilátero; pero el triángulo equilátero perfecto sólo puede ser
percibido por la razón, pues no pertenece a este mundo (el mundo de los
sentidos) sino al mundo de las ideas. Penrose se declara platónico en lo
que
se refiere a los objetos matemáticos: cree que existen de un modo absoluto
en un reino puramente racional, el mundo de los entes matemáticos. Nota
del
editor.
NOTA 6 El formalismo es una corriente de filosofía de las matemáticas que
considera que la verdad matemática está ligada a la posibilidad de probar
los enunciados por medio de reglas a partir de los enunciados básicos del
sistema, llamados normalmente axiomas. Así, el formalismo subraya la
importancia de los sistemas axiomáticos en el conocimiento matemático. El
formalismo es una importante alternativa al platonismo en filosofía de las
matemáticas. Otras alternativas son el intuicionismo y el
instrumentalismo,
pero aquí no es el lugar para exponer estos complicados puntos de vista.
Baste notar que un posible rechazo de la filosofía formalista no nos
fuerza
necesariamente a aceptar la filosofía platónica: existen otras
alternativas
más para explicar el concepto de verdad matemática. Nota del editor.
NOTA 7 Para demostrar su teorema Gödel construye una proposición que dice
que ella misma no puede probarse dentro del sistema axiomático respectivo;

10. entonces, si la proposición de veras no puede probarse, el sistema se
habría
declarado incompleto (puesto que una proposición verdadera no sería
demostrable dentro del sistema); pero si la proposición puede probarse,
entonces el sistema sería inconsistente porque lo que la proposición dice
es
que no puede probarse. Los detalles de cómo puede construirse esta
proposición son demasiado técnicos para ser presentados aquí. Nota del
editor.
NOTA 8 Sobre el tema de la conciencia, consúltese la selección
correspondiente de Dennett en este mismo capítulo. Nota del editor.
NOTA 9 Ver la selección EL CUARTO CHINO en este mismo capítulo. Nota del
editor.
NOTA 10 Sin embargo, confróntese lo expresado sobre el desorden de
personalidad múltiple en la selección de Dennett sobre la conciencia, en
esta misma colección. Nota del editor.
NOTA 11 LISP (List Processing Language) es el lenguaje de programación
favorito de los investigadores de inteligencia artificial. Nota del