2. UNIVERSIDAD NACIONAL SANTIAGO
ANTUNEZ DE MAYOLO
ESCUELA DE POSTGRADO
Bl´acido Gabriel Mariluz Karina
GESTI ´ON DE RIESGOS A
CONSIDERAR EN SOLUCIONES
DEEP LEARNING
agosto 2019
3. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
Resumen
El presente trabajo de investigaci´on gesti´on de riesgos a considerar en solucio-
nes Deep Learning, es un tema muy relevante y un m´etodo id´oneo para generar un
aprendizaje profundo. Deep Learning se fundamenta en predecir formando repre-
sentaciones adecuadas de la entrada. Dados un gran n´umero de pares entrada-salida
deseados, los sistemas Deep Learning funcionan aplicando a la entrada una serie de
transformaciones aprendidas hasta poder predecir la salida deseada para una en-
trada nueva. Deep Learning es un tema que cada vez adquiere mayor relevancia en
el campo de la inteligencia artificial (IA). Siendo una subcategor´ıa del aprendizaje
autom´atico, el aprendizaje profundo trata del uso de redes neuronales para mejorar
cosas tales como el reconocimiento de voz, la visi´on por ordenador y el procesamien-
to del lenguaje natural. R´apidamente se est´a convirtiendo en uno de los campos m´as
solicitados en inform´atica. En los ´ultimos a˜nos, el aprendizaje profundo ha ayudado
a lograr avances en ´areas tan diversas como la percepci´on de objetos, la traducci´on
autom´atica y el reconocimiento de voz (todas ellas ´areas especialmente complejas
para los investigadores en IA).
Abstract
The present research work of risk management to consider in Deep Learning
solutions, is a very relevant topic and an ideal method to generate a deep learning.
Deep Learning is based on predicting forming appropriate representations of the
input. Given a large number of desired input-output pairs, Deep Learning systems
work by applying a series of learned transformations to the input until the desired
output can be predicted for a new input. Deep Learning is a topic that is becoming
increasingly important in the field of artificial intelligence (AI). Being a subcategory
of machine learning, deep learning is about the use of neural networks to improve
things such as voice recognition, computer vision and natural language processing.
It is rapidly becoming one of the most requested fields in computer science. In
recent years, deep learning has helped to make progress in areas as diverse as object
perception, machine translation and voice recognition (all areas especially complex
for AI researchers)
Palabras clave: Deep Learning, Inteligencia Artificial, Redes Neuronales, Gestion
de Riesgos.
4. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
´Indice
´Indice 2
1. PRESENTACION 3
2. ASPECTOS TE´ORICOS 3
2.1. DEEP LEARNING O APRENDIZAJE PROFUNDO. . . . . . . . . . 3
3. LOS RIESGOS EN SOLUCIONES DEEP LEARNING 4
3.1. Deep Learning actual es un devorador de datos: . . . . . . . . . . . . 4
3.2. El Deep Learning actual es muy superficial y ofrece pocas oportuni-
dades de transferencia: . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.3. El Deep Learning actual choca con las inferencias abiertas: . . . . . . 4
3.4. El Deep Learning actual no es lo suficientemente transparente: . . . . 5
3.5. El Deep Learning actual no ha sido debidamente integrado con el
conocimiento previo: . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
3.6. El Deep Learning actual cree vivir en un mundo estable: . . . . . . . 5
3.7. El Deep Learning actual funciona bien como una aproximaci´on, pero
a veces sus soluciones no son fiables del todo: . . . . . . . . . . . . . . 5
3.8. Riesgos Procesos de aprendizaje natural: . . . . . . . . . . . . . . . . 5
3.9. Riesgos en las aplicaciones en desarrollo e implementaci´on de inteli-
gencia artificial a la Rob´otica: . . . . . . . . . . . . . . . . . . . . . . 6
3.10. Riesgos de an´alisis de sentimientos en textos: . . . . . . . . . . . . . . 6
3.11. Riesgos en procesos de visi´on por computadora: . . . . . . . . . . . . 7
3.12. El Deep Learning actual es dif´ıcil de aplicar en la ingenier´ıa: . . . . . 7
4. GESTIONAR LOS RIESGOS EN SOLUCIONES DEEP LEAR-
NING 7
4.1. Riesgos Procesos de aprendizaje natural: . . . . . . . . . . . . . . . . 7
4.2. Riesgos en las aplicaciones en desarrollo e implementaci´on de inteli-
gencia artificial a la Rob´otica: . . . . . . . . . . . . . . . . . . . . . . 8
4.3. Riesgos en procesos de visi´on por computadora: . . . . . . . . . . . . 9
5. CONCLUSI´ON 10
Bibliograf´ıa 11
2
5. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
1. PRESENTACION
El Deep Learning es sin duda el ´area de investigaci´on m´as popular dentro del
campo de la inteligencia artificial. La mayor´ıa de las nuevas investigaciones que se
realizan, trabajan con modelos basados en las t´ecnicas de Deep Learning; ya que las
mismas han logrado resultados sorprendes en campos como procesamiento del len-
guaje natural y visi´on por computadora. Asi como tambi´en nos podemos encontrar
con riesgos al utilizar Deep Learning, en los diferentes campos de aplicaci´on.
2. ASPECTOS TE´ORICOS
2.1. DEEP LEARNING O APRENDIZAJE PROFUNDO.
Deep Learning o aprendizaje profundo es un tema de conocimientos de frontera
de ciencia de la inteligencia artificial, la cual es parte de la ciencia computacional; se
aplica en redes neuronales, visi´on por computadora, aprendizajes artificiales, siste-
mas expertos. Deep Learning es el descubrimiento autom´atico de abstracci´on, con la
creencia de que las representaciones m´as abstractas de datos tales como im´agenes,
video y se˜nales de audio tienden a ser m´as ´utiles: representan el contenido sem´antico
de los datos, divorciado de caracter´ısticas de bajo nivel de los datos sin procesar, es
un subconjunto del Machine Learning o aprendizaje de m´aquina. [17]
El aprendizaje profundo es un tema que cada vez adquiere mayor relevancia en
el campo de la inteligencia artificial (IA). Siendo una subcategor´ıa del aprendizaje
autom´atico, el aprendizaje profundo trata del uso de redes neuronales para mejorar
cosas tales como el reconocimiento de voz, la visi´on por ordenador y el procesamiento
del lenguaje natural. R´apidamente se est´a convirtiendo en uno de los campos m´as
solicitados en inform´atica. En los ´ultimos a˜nos, el aprendizaje profundo ha ayudado
a lograr avances en ´areas tan diversas como la percepci´on de objetos, la traducci´on
autom´atica y el reconocimiento de voz.
Con la aplicaci´on del aprendizaje profundo se ha logrado el reconocimiento del
lenguaje natural, reconocimiento de im´agenes, traducci´on y funcionamiento de nu-
merosas aplicaciones de la inteligencia artificial. Se est´a estableciendo un paralelismo
con la neurolog´ıa, las redes neuronales de la inteligencia artificial permiten generar
sistemas que imitan el funcionamiento del cerebro en la forma en que este clasifica la
informaci´on recibida, se ha identificado objetos en funci´on de los rasgos que contie-
nen. Se trata de programas que realizan sus diagn´osticos o predicciones bas´andose en
la probabilidad. Su forma de aprendizaje contempla la retroalimentaci´on; en sucesi-
vas vueltas reciben el grado de acierto de sus dict´amenes y realizan las correcciones
oportunas. El concepto de aprendizaje profundo o Deep Learning hace referencia a
que las redes neuronales tienen una estructura basada en numerosas capas. [1]
UNA RED NEURONAL: Es el intento de poder realizar una simulaci´on compu-
tacional del comportamiento de partes del cerebro humano mediante la r´eplica en
peque˜na escala de los patrones que ´este desempe˜na para la formaci´on de resulta-
dos a partir de los sucesos percibidos. Concretamente, se trata de poder analizar y
3
6. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
reproducir el mecanismo de aprendizaje y reconociendo de sucesos que poseen los
seres m´as evolucionados. Se trata de poder analizar y reproducir el mecanismo de
aprendizaje y reconociendo que posee el cerebro humano a la gesti´on del riesgo [18]
GESTION DE RIESGOS: La gesti´on de riesgos es el proceso de identificar,
analizar y responder a factores de riesgo a lo largo de la vida de un proyecto y
en beneficio de sus objetivos. La gesti´on de riesgos adecuada implica el control de
posibles eventos futuros. Adem´as, es proactiva, en lugar de reactiva.
3. LOS RIESGOS EN SOLUCIONES DEEP LEAR-
NING
Existen riesgos a los que se enfrenta el aprendizaje profundo en la actualidad:
3.1. Deep Learning actual es un devorador de datos:
Los algoritmos basados en el aprendizaje profundo carecen de mecanismos para
aprender t´erminos abstractos a trav´es de la mera definici´on verbal y necesitan ser
entrenados con millones de datos. Ante situaciones o problemas donde los datos no
est´an disponibles en grandes cantidades, el aprendizaje profundo puede no resultar
la mejor soluci´on. [12]
3.2. El Deep Learning actual es muy superficial y ofrece
pocas oportunidades de transferencia:
Los sistemas actuales no comprenden realmente los conceptos y han sido en-
trenados para actuar en determinados escenarios o situaciones. Cuando se llevan a
cabo los denominados test de transferencia en los que el algoritmo es confrontado
con escenarios que difieren, aunque sea ligeramente, de aquellos en los que ha sido
entrenado, las soluciones que ofrece resultan superficiales.[1]
3.3. El Deep Learning actual choca con las inferencias abier-
tas:
Cuando el ser humano lee un texto est´a en la capacidad de inferir cosas de
´el que no est´an directamente referenciadas o solo parcialmente. Puede adivinar las
intenciones de un personaje determinado a trav´es de un di´alogo en el que las muestras
de forma indirecta. El aprendizaje profundo consigue desenvolverse con ´exito en
situaciones en las que la soluci´on est´a contenida en un texto, pero empieza a tener
problemas cuando esta no es tan expl´ıcita, bien porque se combinen muchas frases,
bien porque las frases sean expl´ıcitas, pero que hagan alusi´on a un trasfondo que no
aparece en el fragmento de texto.[9]
4
7. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
3.4. El Deep Learning actual no es lo suficientemente trans-
parente:
Generalmente, se habla de la opacidad de las redes neuronales, haciendo referen-
cia a que son sistemas que analizan millones de par´ametros para tomar decisiones
cuyo funcionamiento concreto queda fuera del conocimiento de sus creadores. El fun-
cionamiento de una red neuronal profunda se basa en miles de neuronas simuladas
almacenadas en cientos de capas interconectadas. Algo excesivamente m´as opaco e
inaccesible que cualquier c´odigo de programaci´on convencional. [3]
3.5. El Deep Learning actual no ha sido debidamente inte-
grado con el conocimiento previo:
La principal aproximaci´on al aprendizaje profundo es hermen´eutica, es decir,
auto contenida y aislada de cualquier conocimiento potencialmente ´util. El proceso
suele consistir en entrenar al sistema con una base de datos que asocia outputs o
productos con los respectivos inputs, haci´endole aprender la relaci´on entre ambos
para solucionar un problema dado. Un conocimiento previo no suele ser introducido
en el algoritmo. Pone el ejemplo concreto de un sistema destinado a estudiar la f´ısica
de las torres que se derrumban en el que no se han introducido previamente las leyes
de Newton, aunque el algoritmo las acaba deduciendo m´as o menos a base al an´alisis
de los millones de ejemplos que se le han introducido en su fase de entrenamiento.
[2]
3.6. El Deep Learning actual cree vivir en un mundo esta-
ble:
El aprendizaje profundo funciona mejor en un mundo estable con reglas precisas,
como, por ejemplo, un juego de mesa, y no tan bien en entornos menos predecibles,
como puede ser la evoluci´on de los sistemas financieros.[15]
3.7. El Deep Learning actual funciona bien como una apro-
ximaci´on, pero a veces sus soluciones no son fiables del
todo:
Por las razones expuestas anteriormente, el aprendizaje profundo funciona bien
en determinadas situaciones, pero puede ser f´acilmente enga˜nado, por lo que hay
que tratar con mucha cautela sus predicciones y dict´amenes. [4]
3.8. Riesgos Procesos de aprendizaje natural:
El aprendizaje natural con redes neuronales se aplica a procesos de aprendizaje
en medicina (ense˜nanza de cirug´ıa y micro cirug´ıa, estudios complejos de pacientes
en estado de coma, etc.), administraci´on (problemas complejos de finanzas, tomas
5
8. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
de decisiones bajo incertidumbre, etc.), matem´aticas (demostraci´on de nuevos teore-
mas, leyes de los grandes n´umeros, etc.), ingenier´ıa (Sistemas expertos, computaci´on
cu´antica, simulaciones de plantas industriales, etc.). Sin embargo, como todo m´eto-
do corre el riesgo de que pueda fallar o conllevar a resultados err´oneos, estos riesgos
pueden generar altos costos econ´omicos, de vidas, y costos incalculables por la na-
turaleza compleja que estudia. [Ω´erez Ram´ırez and Horacio Fern´andez Casta˜no]
3.9. Riesgos en las aplicaciones en desarrollo e implementa-
ci´on de inteligencia artificial a la Rob´otica:
La implementaci´on de sistemas de aprendizaje artificial en los robots podr´ıa
traer m´ultiples riesgos al ser humano, tales como: incumplimiento de la aplicaci´on
de las leyes de la rob´otica, construcci´on de un mundo menos humano debido a que
los robots quitar´ıan trabajo a cientos de miles de personas, riesgo de que los robots
adquieran inteligencia propia, creaci´on de robots para asesinatos selectivos, riesgos
futuros de dominio del robot sobre el hombre, o que el hombre pierda el control de
los robots implementados con inteligencia artificial, riesgos de rompimiento de los
c´odigos de la ´etica moral en el dise˜no y construcci´on de robots.[20]
3.10. Riesgos de an´alisis de sentimientos en textos:
El an´alisis de sentimiento a nivel de Tweet tiene como objetivo principal a la
clasificaci´on de la opini´on expresada en estos textos cortos en espa˜nol, en donde se
verifica y desarrollan recursos para el procesado del texto previo a su clasificaci´on,
tales como la generaci´on de un diccionario afectivo, y experimentaci´on con el algorit-
mo FastText, la cual aprende eficientemente representaciones de palabras partiendo
de corpus de tama˜no reducido, as´ı como tambi´en en la presentaci´on de una amplia
variedad de soluciones basadas en redes neuronales profundas (Deep Learning) de-
mostrando el gran potencial de las mismas en tareas de an´alisis de lenguaje. Los
resultados obtenidos nos permiten comprobar la capacidad de aprendizaje de este
tipo de algoritmos en esta tarea de procesamiento del lenguaje natural [11]
En el campo del procesado de texto, la necesidad de realizar un correcto tra-
tamiento de este tipo de datos para su posterior uso en algoritmos de Inteligencia
Artificial, ha sido estudiada extensamente, desde el punto de vista del an´alisis de
sentimiento en general como en el caso concreto de an´alisis de sentimientos sobre
textos cortos informales como son los tweets. [9]
En ambos art´ıculos se han llegado a conclusiones que demuestran la importancia
y el papel que juega el pre procesamiento de textos en tareas como el an´alisis de
sentimientos, con el objetivo de eliminar ruido y reducir la dimensionalidad del
problema para mejorar la clasificaci´on. El riesgo que el pre procesado conlleva es la
no mejora la predicci´on del sentimiento, la misma que podr´ıa conllevar a mayores
problemas de interpretaci´on y manipulaciones err´oneas de los sentimientos de las
opiniones pol´ıticas u opiniones de satisfacciones de un producto o sentimientos por
una determinada marca comercial. [10]
6
9. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
3.11. Riesgos en procesos de visi´on por computadora:
La visi´on por computadora o visi´on artificial son sistemas de inteligencia arti-
ficial que permite al hardware ver el entorno mediante sensores programados con
software de inteligencia artificial. Los programas de inteligencia artificial, hasta la
fecha todav´ıa han demostrado muchas falencias como para asegurar una fiabilidad
del 100[16]
3.12. El Deep Learning actual es dif´ıcil de aplicar en la in-
genier´ıa:
El autor apunta los riesgos de trabajar con el aprendizaje autom´atico, pues con-
sidera que son sistemas que pueden funcionar en determinadas circunstancias, pero
para los cuales es dif´ıcil garantizar que funcionar´an en circunstancias alternativas
con datos nuevos que pueden no parecerse a los que han sido utilizados en su entre-
namiento. Esto impide que se pueda utilizar para desarrollar ingenier´ıa robusta Los
riesgos en soluciones Deep Learning se da cuando este tema se aplica a un determi-
nado campo de acci´on de las ciencias computacionales, tales como: redes neurona-
les, inteligencia artificial, aprendizajes artificiales, en general, estos pueden ser los
riesgos en soluciones Deep Learning: Riesgos en procesos de b´usquedas complejas
Riesgos en los procesos de resoluci´on de problemas complejos Riesgos en el an´alisis
y comprensi´on de lenguajes naturales Riesgos en los procesos de aprendizaje natural
Riesgos en las aplicaciones en desarrollo e implementaci´on de inteligencia artificial
a la Rob´otica Riesgos en procesos de Visi´on por computadora Reconocimiento de
voz Sistemas expertos Redes neuronales L´ogica Difusa
Para el presente trabajo se van a tomar los riesgos de Deep Learning que se
presentan en Redes Neuronales, tal como riesgos en los procesos de aprendizaje
natural, riesgos en las aplicaciones en desarrollo e implementaci´on de inteligencia
artificial a la Rob´otica, an´alisis de sentimientos en textos. [5]
4. GESTIONAR LOS RIESGOS EN SOLUCIO-
NES DEEP LEARNING
4.1. Riesgos Procesos de aprendizaje natural:
Las empresas tecnol´ogicas internacionales, las universidades, la poblaci´on y los
gobiernos deben ser conscientes de los riesgos de uso y aplicaci´on de las tecnolog´ıas
de inteligencia artificial y rede neuronales, espec´ıficamente en los temas de apren-
dizajes profundos de las ense˜nanzas de cirug´ıa y micro cirug´ıa, de ense˜nanza de
operaciones quir´urgicas en donde se ponen en alto riesgo a los pacientes. En estos
casos los riesgos se deben gestionar a nivel de la administraci´on de las universida-
des que realizan el proceso de ense˜nanza aprendizaje de estas operaciones bajo la
modalidad de aprendizaje profundo. El Rector y la Direcci´on de la Escuela Profe-
sional, inicialmente deben evaluar los riesgos que se contemplan en las ense˜nanzas
7
10. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
aprendizajes antecedentes, ellos deben ser registrados y evaluados. Luego, evaluar
las metodolog´ıas de ense˜nanzas aprendizajes profundos que est´a en capacidad de
realizar la instituci´on, si se est´a consciente de que el proceso conlleva a riesgos m´ıni-
mos, se deben de seguir con el proceso, caso contrario, si es incipiente, mejorar los
procesos y evaluar convenios con otras instituciones para mejorar los procesos y
preparar adecuadamente a los docentes del aprendizaje profundo orientado a la en-
se˜nanza enfocados en el sector salud. Asimismo, el Estado, las instituciones p´ublicas
y privadas deben medir los riesgos del aprendizaje profundo aplicado al sector salud.
Por otro lado, los riesgos a que conlleva el aprendizaje profundo aplicado a las fi-
nanzas, decisiones bajo incertidumbre, demostraci´on de nuevos teoremas, leyes de los
grandes n´umeros, Sistemas expertos, computaci´on cu´antica, simulaciones de plantas
industriales, etc., deben ser evaluados por cada caso. En las finanzas se debe realizar
simulaciones o pruebas de que la ense˜nanza y sus resultados no generen problemas
econ´omicos y de imagen en el sistema financiero. En la toma de decisiones bajo in-
certidumbre se corre el riesgo de tomar una decisi´on que atente contra la econom´ıa
de la empresa debido a una mala decisi´on, el riesgo se debe gestionar evaluando la
ense˜nanza y midiendo sus resultados, los alumnos deben ejecutar y comprobar sus
resultados ante modelos de casos de tomas de decisiones bajos diversos casos, y apli-
carlos cuando est´en seguros de que sus modelos de toma dediciones bajo aprendizaje
profundo no generen riesgos para la empresa, adoptar conductas similares para los
casos de demostraci´on de teoremas y demostraci´on de leyes de los grandes n´umeros.
En el caso de dise˜no de las plantas industriales se debe tener en cuenta que
el aprendizaje profundo puede crear aprendizajes de diversos tipos de capacidades
de plantas ante demandas complejas, en ese sentido, se debe gestionar el riesgo
con la participaci´on de las autoridades, docentes y alumnos, todo ello de manera
conjunta. Si bien es cierto que el dise˜no de plantas industriales var´ıa en funci´on de
la naturaleza del proceso y del servicio, se puede generar el riesgo de dise˜nar plantas
industriales que pueden ser bombas de tiempo y poner en peligro las vidas de los
trabajadores y de la poblaci´on, as´ı como exponer la econom´ıa de las empresas y
la reputaci´on de la instituci´on que forma a los alumnos mediante los procesos de
aprendizaje profundo.[Ω´erez Ram´ırez**Horacio Fern´andez Casta˜no]
4.2. Riesgos en las aplicaciones en desarrollo e implementa-
ci´on de inteligencia artificial a la Rob´otica:
Los riesgos que se pueden generar en el proceso de formaci´on de profesionales
en el mundo del aprendizaje profundo en la rob´otica, as´ı como su aplicaci´on a esta
ciencia; se pueden gestionar, inicialmente aplicando los fundamentos tecnol´ogicos
y cient´ıficos que la comunidad cient´ıfica internacional sugiere al respecto; en ella
se indica que la humanidad corre el riesgo de implementar inteligencia artificial a
un hardware, que podr´ıa reemplazarlo en el futuro, no obstante este nivel de cono-
cimiento todav´ıa el hombre no lo ha desarrollado, si se debe tener en cuenta que
existen riesgos ´eticos, riesgos tecnol´ogicos y riesgos militares. Los riesgos ´eticos se
deben gestionar concientizando a las instituciones y a los estudiantes de la impor-
8
11. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
tancia de que el hombre desarrolle tecnolog´ıas de avanzada como el aprendizaje
profundo, inteligencia artificial y redes neuronales, pero dentro de conductas que
beneficien a la humanidad espec´ıficamente en el presente y futuro, que las utilidades
de esta ciencia beneficien preferentemente a la poblaci´on m´as vulnerable respecto a
su econom´ıa, a su cultura y a su sociedad. Los riesgos tecnol´ogicos que implican la
ense˜nanza y aplicaci´on del aprendizaje profundo en la rob´otica y variantes se deben
gestionar mediante la planificaci´on de los resultados obtenidos en la aplicaci´on de
esta tecnolog´ıa en los procesos de ense˜nanza aprendizaje. Debido a la complejidad
del aprendizaje profundo y del tema de la inteligencia artificial, se pueden generar
aprendizajes cuyas variantes puedan dar como resultados de aprendizajes no desea-
dos, aprendizajes que puedan generar riesgos de da˜nos y muertes o de riesgos a la
econom´ıa cuando por ejemplo un robot destruye las instalaciones de la empresa que
la adopta como producto del aprendizaje profundo. Otro caso de riesgo tecnol´ogico
se da cuando un alumno preparado en una instituci´on trafica con el conocimiento
recibido y los traslada a la competencia, en este caso la instituci´on debe gestionar
este riesgo mediante el establecimiento de pol´ıticas de propiedad intelectual, pol´ıti-
cas de deberes y derechos de los alumnos capacitados o preparados dentro y para la
instituci´on.
Respecto a los riesgos militares, se debe de gestionar desde diversos aspectos:
Desde la ´etica y la moral, defendiendo que la aplicaci´on de la inteligencia artificial
en los escenarios de guerra podr´ıa conllevar a situaciones de guerra que podr´ıan vio-
lar las convenciones internacionales de guerra ya que fueron elaborados en tiempos
en donde el hombre no hab´ıa previsto situaciones de guerra que en la actualidad
s´ı podr´ıan ocurrir. Si bien es cierto que las guerras en el futuro van a sustituir al
ser humano en el campo de batalla, la inteligencia artificial podr´ıa generar situa-
ciones de riesgo en donde los robots podr´ıan atacar a la propia ciudadan´ıa si son
reprogramados por el enemigo.
El riesgo que el sentimiento expresado en texto conlleva es la no mejora la pre-
dicci´on del sentimiento, la misma que podr´ıa conllevar a mayores problemas de in-
terpretaci´on y manipulaciones err´oneas de los sentimientos de las opiniones pol´ıticas
u opiniones de satisfacciones de un producto o sentimientos por una determinada
marca comercial; este riesgo se puede gestionar mediante una revisi´on minuciosa
de los textos, de una conversaci´on sobre el tema con el autor o autores, as´ı como
una lluvia de ideas con los programadores de aprendizaje profundo con la finalidad
de interpretar adecuadamente el pensamiento o sentimiento expresado en un texto
tecnol´ogico.[11]
4.3. Riesgos en procesos de visi´on por computadora:
Los riesgos ocasionados por el uso o aplicaci´on del Deep Learning o aprendizaje
profundo en la visi´on por computadora se deben de gestionar desde el Estado con la
aplicaci´on de normas que parametren el uso de la ciencia de la visi´on por computado-
ras en los equipos o hardware tecnol´ogicos tales como autom´oviles, aviones, ternes,
etc. La gesti´on de riegos sobre las falencias en el aseguramiento de la fiabilidad de
9
12. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
la visi´on al 100[16]
5. CONCLUSI´ON
De las diversas lecturas realizadas en la construcci´on del presente trabajo, se
concluye que cualquier producto, metodolog´ıa o creaci´on humana siempre va a estar
sujeto a riesgo en menor o mayor medida, en ese sentido, a esta realidad no escapan
los productos o creaciones tecnol´ogicas de avanzada como en aquellos m´etodos o
aplicaciones donde se aplica el aprendizaje profundo o Deep Learning.
Con referencia a los Riesgos de Procesos de aprendizaje natural se concluye que
existen riesgos de que pueda fallar o conllevar a resultados err´oneos, estos riesgos
pueden generar altos costos econ´omicos, de vidas, y costos incalculables por la na-
turaleza compleja que estudia, y que estos riesgos se pueden gestionar a nivel de la
administraci´on de las universidades que realizan el proceso de ense˜nanza aprendizaje
de estas operaciones bajo la modalidad de aprendizaje profundo, a nivel del Estado,
y la comunidad en general.
Los riesgos en las aplicaciones en desarrollo e implementaci´on de inteligencia artificial
a la Rob´otica pueden ser incumplimiento de la aplicaci´on de las leyes de la rob´otica,
construcci´on de un mundo menos humano debido a que los robots quitar´ıan trabajo
a cientos de miles de personas, riesgo de que los robots adquieran inteligencia propia,
creaci´on de robots para asesinatos selectivos, riesgos futuros de dominio del robot
sobre el hombre, o que el hombre pierda el control de los robots implementados
con inteligencia artificial, riesgos de rompimiento de los c´odigos de la ´etica moral
en el dise˜no y construcci´on de robots. Estos riesgos se pueden gestionar aplicando
los fundamentos tecnol´ogicos y cient´ıficos que la comunidad cient´ıfica internacional
sugiere al respecto, la participaci´on del Estado tambi´en es importante.
Uno de los riesgos de an´alisis de sentimientos en textos es el riesgo de la no mejora la
predicci´on del sentimiento, la misma que podr´ıa conllevar a mayores problemas de
interpretaci´on y manipulaciones err´oneas de los sentimientos de las opiniones pol´ıti-
cas u opiniones de satisfacciones de un producto o sentimientos por una determinada
marca comercial, esto debe ser gestionado necesariamente por pol´ıticas de Estado,
por gesti´on p´ublica. Las opiniones expresadas en los textos deben ser respetados
dentro del marco de la constituci´on y la ley.
Los riesgos en procesos de visi´on por computadora se presentan cuando los algorit-
mos implementados a un auto de auto conducci´on implementado con visi´on artificial
fallen, los costos son econ´omicos y costos de p´erdidas de vidas humanas. Otro riesgo
consiste en que este mismo sistema implementado sistemas de transporte p´ublico.
Se deben de gestionar desde el Estado con la aplicaci´on de normas que parametren
el uso de la ciencia de la visi´on por computadoras en los equipos o hardware tec-
nol´ogicos, la gesti´on de riegos sobre las falencias en el aseguramiento de la fiabilidad
de la visi´on al 100
end itemize
10
13. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
Bibliograf´ıa
[1] Bengio, Yoshua, Dediu, Adrian-Horia and Martand Mart´ın-Vide, Carlos and
Mitkov, Ruslan. Deep Learning of Representations: Looking Forward”, book-
title=”Statistical Language and Speech Processing”,, year=”2013”, publis-
her=”Springer Berlin Heidelberg”,
[2] P. Ignacio Dorado-D´ıaz and Jes´us Sampedro-G´omez and V´ıctor Vicente-Palacios
and Pedro L. S´anchez”, title = .A
plicaciones de la inteligencia artificial en
cardiolog´ıa: el futuro ya est´a aqu´ı”, journal = Revista Espa˜nola de Cardio-
log´ıa”, year = ”2019”, doi = ”https://doi.org/10.1016/j.recesp.2019.05.016”, url
= ”http://www.sciencedirect.com/science/article/pii/S0300893219302507”,
[3] Nhi N.Y. Vo and Xuezhong He and Shaowu Liu and Guandong
Xu, title = ”Deep learning for decision making and the optimi-
zation of socially responsible investments and portfolio”, year =
”2019”, doi = ”https://doi.org/10.1016/j.dss.2019.113097”, url =
”http://www.sciencedirect.com/science/article/pii/S0167923619301265”,
[4] Min-Jen, Tsai and Yu-Han, Tao and Imam Yuadi. title = ”Deep
learning for printed document source identification”, year =
”2019”, doi = ”https://doi.org/10.1016/j.image.2018.09.006”, url =
”http://www.sciencedirect.com/science/article/pii/S0923596518308579”,
[5] Tajinder Singh and Madhu Kumari, title = Role of Text Pre-
processing in Twitter Sentiment Analysis”, year = ”2016”,
doi = ”https://doi.org/10.1016/j.procs.2016.06.095”, url =
”http://www.sciencedirect.com/science/article/pii/S1877050916311607”,
[6] Emma Haddi and Xiaohui Liu and Yong Shi, title = ”The
Role of Text Pre-processing in Sentiment Analysis”, year =
”2013”, doi = ”https://doi.org/10.1016/j.procs.2013.05.005”, url =
”http://www.sciencedirect.com/science/article/pii/S1877050913001385”,
[7] Lacueva, Francisco and Vea-Murgu´ıa, J and del-Hoyo-Alonso, Rafael and Sa-
las, Rosa Mar´ıa year = 2017, title = FastText as an alternative to using Deep
Learning in small corpus.
[8] Haddi, Emma and Liu, Xiaohui and Shi, Yong, year = 2013, title = The Role of
Text Pre-processing in Sentiment Analysis, doi = 10.1016/j.procs.2013.05.005
[9] Singh, Tajinder and Kumari, Madhu, year = 2016, title = Role of Text Pre-
processing in Twitter Sentiment Analysis, doi = 10.1016/j.procs.2016.06.095
[10] Lacueva, Francisco and Vea-Murgu´ıa, J and del-Hoyo-Alonso, Rafael and Salas,
Rosa Mar´ıa, year = 2017, title = FastText as an alternative to using Deep
Learning in small corpus.
11
14. hola
GESTI ´ON DE RIESGOS A CONSIDERAR EN SOLUCIONES DEEP
LEARNING
Bl´acido Gabriel Mariluz Karina
[11] Carlos Escolano and Marta R. Costa , title = Generaci´on mor-
fol´ogica con algoritmos de aprendizaje profundo integrada en un
sistema de traducci´on autom´atica estad´ıstica, year = 2017, url =
http://journal.sepln.org/sepln/ojs/ojs/index.php/pln/article/view/5499,
bibsource = dblp computer science bibliography, https://dblp.org
[12] Marta R. Costa-juss`a and Jos´e A. R. Fonollosa, title = DeepVoice: Tecnolog´ıas
de Aprendizaje Profundo aplicadas al Procesado de Voz y Audio, year = 2017,
url = http://journal.sepln.org/sepln/ojs/ojs/index.php/pln/article/view/5500,
bibsource = dblp computer science bibliography, https://dblp.org
[13] Chong Chen and Ying Liu and Maneesh Kumar and Jian
Qin and Yunxia Ren, title = .En
ergy consumption modelling
using deep learning embedded semi-supervised learning”, year =
”2019”, doi = ”https://doi.org/10.1016/j.cie.2019.06.052”, url =
”http://www.sciencedirect.com/science/article/pii/S0360835219303821”,
[14] Will Serrano and Erol Gelenbe title = ”Deep Learning
Clusters in the Cognitive Packet Network”, year = ”2019”,
doi = ”https://doi.org/10.1016/j.neucom.2018.07.101”, url =
”http://www.sciencedirect.com/science/article/pii/S0925231219304473”,
[15] Chaur-Heh Hsieh and Jen-Yang Chen and Bo-Hong Nien, title
= Deep Learning-Based Indoor Localization Using Received Sig-
nal Strength and Channel State Information, ear = 2019, url =
https://doi.org/10.1109/ACCESS.2019.2903487,
[16] ,Sukun Tian and Ning Dai and Bei Zhang and Fulai Yuan and
Qing Yu and Xiaosheng Cheng title = Automatic Classification and
Segmentation of Teeth on 3D Dental Model year = 2019, url =
https://doi.org/10.1109/ACCESS.2019.2924262,
[17] Abhijit Ghatak, title = Deep Learning with R, publisher = Springer, year =
2019, url = https://doi.org/10.1007/978-981-13-5850-0,
[18] Pedro ´Angel Castillo Valdivieso and Francisco Javier Garc´ıa Castellano and
Juan Juli’an Merelo Guerv’os and Alberto Prieto, title = Dise˜no de Redes Neu-
ronales Artificiales mediante Algoritmos Evolutivos, year = 2001,
[19] , title = LAS REDES NEURONALES Y LA EVALUACI´ON DEL RIESGO
DE CR´EDITO, year = 2007,
[20] , title ”La ´etica de la inteligencia artificial”, en The Cambridge Handbook of
Artificial Intelligence , K. Frankish y WM Ramsey, Eds.
12