Inteligencia Artificial Evitando al cisne negro y calibrando el “debido criterio” Nos enfrentamos a diferentes transformaciones en simultaneo (transformación cultural, digitalización y transformación digital) que avanzan en una evolución continua. Por eso es crítico abordar la gestión tecnológica de manera innovadora, integrando su conocimiento y experiencia con los sistemas de información y con la gestión del cambio apropiada, desde una perspectiva estratégica, gestionando los riesgos y con un buen gobierno corporativo. La inmediatez, la impaciencia y la necesidad de responder de manera ágil y eficiente al comportamiento líquido de nuestra sociedad ha establecido las bases para la incipiente inteligencia artificial omnipresente. Pero ¿de qué hablamos, cuando hablamos de inteligencia artificial? Javier Mauricio Orellana Jara.

1. Mg.-Lic. Javier M. Orellana
Fecha: Mayo de 2020
Inteligencia
Artificial
Enfoque “Human Centric”
La razón madura hace al
debido criterio

2. Inteligencia Artificial: Enfoque “Human Centric” La razón madura hace al debido criterio
Página 2 de 7 Mg.-Lic. Javier M. Orellana
Transformación digital
El uso intensivo de tecnología (Cloud, IoT, IoE, Social
Media, Block Chain, Agile, Inteligencia Artificial y Robótica)
genera nuevas formas de hacer negocios. Esto nos obliga
a tratarla desde una perspectiva estratégica, gestionando
los riesgos inherentes y con un buen gobierno corporativo.
Con eso en mente nos detenemos en la Inteligencia
Artificial profunda.
Inteligencia Artificial (IA)
La IA profunda es la capacidad de una “máquina” de imitar
las funciones cognitivas humanas. De manera sintética
estas funciones se dividen en dos fases. En la fase
primaria se recolectan y procesan datos para luego emular
resultados humanos, mientras que en la segunda fase se
genera el juicio (o criterio), se formulan los resultados
posibles, y se pone en práctica la decisión.
Debido criterio
En pocos lugares se analiza quien responderá por el
impacto y los resultados de una mala gestión, o aplicación
errónea de la “IA”. Asimilar este escenario y encontrar
maneras de responder a la transformación cultural es
prioritario. Debemos entender y decidir entre una
tecnología instrumentalista o una determinista.
Escenario: Estamos transitando la
digitalización, la transformación cultural, y la
transformación digital de forma simultánea y
global. Esto genera una complejidad que
requiere un tratamiento diferenciado.
01
02
03
Digitalización: La transferencia de
varias actividades al mundo digital
(quedando aún muchas por migrar) genera
un impulso hacia la inmediatez en todo
ámbito, incluyendo el comportamiento
humano.
Transformación Cultural: La
sobreexposición de todo lo que hacemos
(sea parte de la realidad o aquello inventado)
ha movilizado mental y físicamente a varias
sociedades. Allí no sólo aparecen demandas
de igualdad y equidad, sino que también se
requiere transparencia, ética, propósito,
compromiso, y sustentabilidad en todo
orden.
Inteligencia
artificial
Enfoque “Human Centric”
La razón madura hace al
debido criterio

3. Inteligencia Artificial: Enfoque “Human Centric” La razón madura hace al debido criterio
Página 3 de 7 Mg.-Lic. Javier M. Orellana
Inteligencia Artificial
Evitando al cisne negro y calibrando el “debido criterio”
Nos enfrentamos a diferentes transformaciones en simultaneo (transformación cultural, digitalización
y transformación digital) que avanzan en una evolución continua. Por eso es crítico abordar la gestión
tecnológica de manera innovadora, integrando su conocimiento y experiencia con los sistemas de
información y con la gestión del cambio apropiada, desde una perspectiva estratégica, gestionando
los riesgos y con un buen gobierno corporativo.
La inmediatez, la impaciencia y la necesidad de responder de manera ágil y eficiente al
comportamiento líquido de nuestra sociedad ha establecido las bases para la incipiente inteligencia
artificial omnipresente. Pero ¿de qué hablamos, cuando hablamos de inteligencia artificial?
Usando un reduccionismo teórico y simplificador la inteligencia artificial profunda es aquella realizada
por computadoras o máquinas (en un sentido amplio) que maximizan las posibilidades de éxito
respecto a una función objetivo.
En lenguaje común la IA se da cuando una máquina imita funciones cognitivas asociadas con mentes
humanas. Sabemos que la mente humana se encarga de recoger y percibir datos de la realidad,
aprender para formar escenarios y realizar predicciones estimando resultados posibles, mediante la
resolución de problemas de manera prudente y sensata (en general), para luego pasar a la acción.
Podemos identificar las etapas del funcionamiento de la “IA” de manera simplificada en 4 instancias:
Inteligencia Artificial: Es la capacidad de una “máquina” de recabar datos, aprender de resoluciones adoptadas por personas que usaron dichos datos,
para luego procesar y generar alternativas de resolución a fin de alcanzar la función objetivo (ecuación que será optimizada según restricciones
existentes, con variables a maximizar o minimizar) que se plantea, con un determinado margen de flexibilidad y sesgo, que luego serán aplicadas a la
acción.
La pregunta que surge es ¿la inteligencia artificial reemplazará las 4 instancias? Sin duda ya existe la
posibilidad técnica para hacerlo.
Para avanzar con el análisis dividamos dicho funcionamiento en dos fases. La fase primaria estaría
compuesta por la recolección y procesamiento de los datos de la realidad, escenarios y predicciones.
La segunda fase estaría compuesta por el criterio, los resultados posibles, la ejecución e impacto.
A. Recolección y procesamiento de los datos de la realidad
Hoy existe una alto poder de procesamiento de datos en las computadoras. No se puede comparar
(en algunos rubros o actividades) la capacidad de un ser humano respecto al conjunto de software y
hardware (máquinas compuestas por aplicaciones, sistemas, y elementos físicos en las formas más
diversas). Tenemos más posibilidad de obtener información usando TI desde un smartwatch (por
ejemplo) que mide las pulsaciones de una persona de forma continua, con la opción de publicarlo en
A) Realidad y
datos
B) Escenarios +
predicciones
C) Criterio y
resultados
posibles
D) Ejecución e
impacto

4. Inteligencia Artificial: Enfoque “Human Centric” La razón madura hace al debido criterio
Página 4 de 7 Mg.-Lic. Javier M. Orellana
cualquier lugar del mundo en tiempo real, hasta los autos impulsados por energías renovables y
autónomos.
B. Escenarios y Predicción
Si las decisiones que se tuvieron en cuenta para identificar, generar y procesar los datos fueron
correctas, entonces vamos a obtener una cantidad de variables, estados y relaciones entre dichas
variables que generarán predicciones, planteando diversos escenarios. Estos escenarios fueron
experimentados previamente por un ser humano especializado en la materia analizada. Así, con un
alto nivel de confianza podría llevarnos a predicciones correctas.
Entonces quizás en un trabajo tedioso o riesgoso, con gran volumen de datos y que consume mucho
tiempo, toma preponderancia el uso de la tecnología y la inteligencia artificial. Tanto el tiempo
ahorrado como el riesgo mitigado permitiría generar capacidad y disponibilidad para que un ser
humano preste atención a otros asuntos urgentes o importantes.
C. El Criterio y los resultados posibles
Antes el paradigma del conocimiento suponía que todo lo que alimentaba a dicho conocimiento eran
los datos recibidos de la experiencia sensible. Es decir que este se producía solo por medio de
nuestros 5 sentidos (visión, audición, olfato, sentido del gusto y del tacto). De allí su denominación.
Immanuel Kant, quien hace esta oportuna descripción, llega a la conclusión de que el conocimiento
se da a través de estos sentidos, juntamente con la estructura de entendimiento interna de cada
persona. Esa es nuestra forma de conocer y ser.
Y en la Crítica de la Razón Pura agrega que los: "pensamientos sin contenidos son vacíos; las
intuiciones sin conceptos son ciegas". En otras palabras, sin sensibilidad nada nos sería dado y sin
entendimiento, nada sería pensado.
Niveles de conocimiento humano
Immanuel Kant es también el indicado para avanzar en esta sección ya que ha realizado una oportuna
descripción del conocimiento, desde el punto de vista epistemológico. Para Kant el conocimiento se
compone de tres niveles diferentes y sucesivos:
El primero es la sensibilidad (el mundo, los objetos que nos rodean y que tenemos identificados), que
se encarga de ordenar en el espacio y en el tiempo (espacio y tiempo que no preexisten en la realidad,
sino que se albergan en nuestra sensibilidad
como formas de conocer) las impresiones que
tiene el sujeto.
En segundo lugar, encontramos el
entendimiento (estructura mental), cuya
función es organizar estas impresiones a partir
de ciertas categorías (que tampoco preexisten
en el mundo, sino que constituyen formas a
partir de las cuales interpretamos al mundo)
que nos permiten constituir juicios.
Por último, en el nivel de razón (dinámica entre
mundo y estructura mental), el sujeto
aprehende de estos juicios y trata de
relacionarlos con la realidad para buscar
principios más generales (condiciones
incondicionadas).
SENSIBILIDAD
ENTENDIMIENTO
(JUICIOS)
RAZÓN
ASIMILACIÓN
CONSCIENTE

5. Inteligencia Artificial: Enfoque “Human Centric” La razón madura hace al debido criterio
Página 5 de 7 Mg.-Lic. Javier M. Orellana
Hoy el nivel de razón funciona en el corto plazo, casi generando una respuesta eyectada, como foto
instantánea, produciéndola prácticamente de manera líquida e inmediata.
Asimilación consciente: la razón madura hace al debido criterio.
La asimilación consciente es el proceso mental “no calcificado” que va madurando con la trayectoria,
la capacidad individual y la responsabilidad adquirida de cada ser humano. Dicha responsabilidad
incluye reducir de manera consciente el potencial doble estándar que considera la vida más allá de la
conveniencia y existencia egoísta e individualista. En síntesis, la asimilación consciente, el debido
criterio.
El debido criterio está en función del modelo mental de cada persona. En nuestro modelo mental
sucede la percepción del mundo, aquello que captamos, organizamos e interpretamos sobre la base
de la biología, el lenguaje (idioma y palabras adquiridas y su interpretación, según la época), la cultura
e historia personal. Es también el dominio, uso y aplicación de técnicas y tecnologías de un tema
específico, aplicado en un contexto oportuno y en un marco responsable de ética. La ética que razona
lo incorporado en las universidades e instituciones en general, en las relaciones, en una biblioteca,
recorriendo y viajando, y lo que vemos diariamente en la calle.
Cisne negro
En la teoría del caos (asociada a la aleatoriedad) encontramos la teoría del cisne negro. El problema
del cisne negro implica que un evento causa alto impacto, difícil de predecir, y que está fuera de las
expectativas normales de su entorno, de probabilidades remotas y también por la influencia de sesgos
sicológicos.
Desde hace un tiempo vemos de manera recurrente situaciones que se identifican y titulan como un
cisne negro. Al menos eso se aprecia en los medios de comunicación.
En este contexto ¿qué tiene que ver? Desde un punto de vista coyuntural, algunos llaman cisne negro
(convenientemente) a un error de lectura, de recopilación de información, de interpretación, de
variables, de peso de las variables, de los patrones definidos, de sus reglas y calibraciones, de los
niveles de conocimiento.
Finalmente, y agregando el último punto a este análisis, el error más común en las organizaciones es
el tratamiento que se le da a la fijación de objetivos, la ausencia de objetivos, u objetivos mal
formulados. Hoy se está trabajando la inteligencia artificial fijando objetivos.
En un artículo del New York Times Stuart Russell dice que no sabemos que algo no nos gusta hasta
que sucede. Que deberíamos cambiar toda la base sobre la cual construimos los sistemas de
Inteligencia Artificial, alejándonos de la noción de dar a los robots objetivos fijos. En cambio, el sistema
tiene que saber que desconoce cuál es el objetivo. Y una vez que tenemos sistemas que funcionan
de esa manera, realmente serán diferentes a los seres humanos. Comenzarán a pedir permiso antes
de hacer las cosas, porque no estarán seguros de si eso es lo que pretendes alcanzar.
La referencia circular
Ante este escenario ¿existe alguna persona que tenga la capacidad suficiente para embeber objetivos
fijos en la inteligencia artificial? Es decir, que incluya lo mencionado anteriormente y pueda transferir
esto a un objeto que aplique o haga uso de la inteligencia artificial.
Lamentablemente el debido criterio hoy es escaso y sin duda estamos frente a una "referencia
circular", y al menos habría que evaluar lo propuesto por Stuart Russell.
Dentro del contexto empresario quienes pueden ayudar en este tipo de proyectos de inteligencia
artificial son las personas que conforman hoy el área de “Cumplimiento” (Compliance Office) ya que
sus integrantes tienen un entrenamiento puesto a prueba, respecto a temas relacionados a la ética.
Y los conceptos en la agenda podrían ser los siguientes:

6. Inteligencia Artificial: Enfoque “Human Centric” La razón madura hace al debido criterio
Página 6 de 7 Mg.-Lic. Javier M. Orellana
D. Los resultados y el impacto
La tecnología por sí sola no tiene responsabilidad y en pocos lugares se está analizando quién será
el responsable de los resultados, el impacto de la mala gestión o aplicación errónea de esta. La
inteligencia artificial ya soluciona varios aspectos de nuestra vida moderna y sin duda puede hacer
mucho más porque es extraordinaria, pero ¿hemos alcanzado el debido criterio que disminuya los
sesgos en este asunto? Es un tema de agilidad operativa y entonces ¿es sólo reducir cuellos de
botella o aplicar “downsizing”? ¿sabemos quién decide hasta dónde se avanzará? ¿Cómo sería una
economía sin fuerza laboral humana? ¿cómo se comportaría el propietario con posición dominante de
esta tecnología y de los datos que obtiene? ¿esto es sólo una discusión de costos o también incluye
hacer lo correcto?
Al principio mencionamos 4 instancias [(realidad y datos, escenarios y predicciones) y (criterio, los
resultados posibles y ejecución e impacto)]. Por lo expuesto estas dos últimas no deberían ser
transferidas. Pero más allá de las posibles respuestas lo cierto es que debemos trabajar en conjunto
para que la tecnología en general y la inteligencia artificial en particular no se convierta en un cisne
negro.
Una reflexión que escuché hace muy poco es la de Humberto Maturana diciendo que somos los
humanos quienes guiamos la evolución. La evolución (y la innovación) sigue el camino de la
conservación de algo. Entonces la pregunta es ¿qué queremos conservar? y ¿qué dejaremos de lado?
Aún depende de nosotros.
Integridad Transparencia Responsabilidad Control Justicia
CompromisoIgualdadSeguridadProtecciónEquidad

7. Inteligencia Artificial: Enfoque “Human Centric” La razón madura hace al debido criterio
Página 7 de 7 Mg.-Lic. Javier M. Orellana
Referencias y enlaces de interés que inspiraron este artículo:
▪ Stuart Russell BBC https://www.bbc.com/mundo/noticias-50246831
▪ MIT Sloan Management Review: What to Expect From Artificial Intelligence
▪ MIT Sloan Management Review: Using AI to Enhance Business Operations
▪ MIT Sloan Management Review: Reshaping Business With Artificial Intelligence
▪ MIT Sloan Management Review: Winning With AI
▪ Inteligencia artificial en materia de hotelería: Henn Na Hole
▪ Inteligencia artificial en materia de robótica: Boston Dynamics' Atlas Robot Can Do
Parkour
▪ Inteligencia artificial en materia de derecho: Robot Robot & Hwang
▪ Humano artificial: https://www.cnbc.com/2020/01/06/samsung-neon-artificial-human-
announced-at-ces-2020.html
▪ Inteligencia artificial relacionada a oficios:
https://www.youtube.com/watch?v=KOJ4n3mhliU
▪ Inteligencia artificial en materia de Ciudades inteligentes: ET City Brain
▪ Zygmunt Bauman. Modernidad líquida. Fondo de Cultura Económica (2000)
▪ Immanuel Kant. Crítica de la razón pura. Traducción de Mario Caimi. Buenos Aires,
Ediciones Colihue, 2007 (1ª ed.)
▪ Elon Musk CNBC: https://www.cnbc.com/2017/07/17/elon-musk-robots-will-be-able-to-
do-everything-better-than-us.html
▪ Humberto Maturana: “En el convivir es fundamental el mutuo respeto y la honestidad”