Saltar al contenido principal
CargarIdioma (ES)Atención al cliente
EmpresarialesMóvilRedes socialesMarketingTecnologíaArte y fotografíaEmpleoDiseñoEducaciónPresentaciones y charlas públicasGobierno y org. sin ánimo de lucroAtención sanitariaInternetDerechoLiderazgo y gestiónMotorIngenieríaSoftwareReclutamiento y RR. HH.Venta al por menorVentasServiciosCienciasPYMES y liderazgoAlimentaciónMedio ambienteEconomía y finanzasDatos y análisisRelaciones con inversoresDeportesMeditaciónNoticias y políticaViajesDesarrollo personalSector inmobiliarioEntretenimiento y humorSalud y medicinaDispositivos y hardwareEstilo de vida
Subido porluchonunez12345
PPTX, PDF4 vistas

Ética de la Inteligencia Artificial en la Investigación Científica Universitaria (1) [Repaired] (1).pptx

Utilización de la IA en la agricultura

Educación◦
Descargar para leer sin conexión
NEURAL ETHICS Ética de la Inteligencia Artificial en la Investigación Científica Universitaria Desafíos, Criterios y Responsabilidades Emergentes Ponente MSc. Miguel Durant Institución Universidad Nacional Experimental de los Llanos Occidentales Ezequiel Zamora UNELLEZ 2DO CONGRESO MUNDIAL DE INVESTIGACIÓN CIENTÍFICA 2025 2DO CONGRESO MUNDIAL DE INVESTIGACIÓN CIENTÍFICA
"Estamos educando a los últimos humanos que decidirán sobre la primera inteligencia no humana" — Stuart Russell Contexto Crítico 2024-2025 representa un punto de inflexión en la adopción académica de IA generativa. No estamos aquí para hablar de herramientas, sino de la naturaleza misma del conocimiento universitario en la era post-ChatGPT, Claude, Gemini etc. La pregunta no es QUÉ podemos hacer con la IA Sino, QUÉ clase de investigadores queremos ser
DIAGNÓSTICO La Hiperaceleración Académica 85% Adopción Generalizada de investigadores han utilizado IA generativa en su trabajo científico Fuente: Nature, 2024 400% Aumento Alarmante incremento en papers retractados por uso indebido de IA (2024 vs 2022) Señal de crisis de integridad 67% Vacío Normativo de universidades carecen de marcos éticos específicos para el uso de IA Fuente: UNESCO, 2025 (estimado) Evolución Tecnológica Era Pre-Digital Investigación manual, reproducibilidad clara Era Digital Herramientas computacionales, datos masivos Era Post-ChatGPT, Claude, Gemini etc. Generación autónoma, caja negra epistémica Velocidad de cambio
PROBLEMATIZACIÓN Más Allá del "Cómo": El "Quién" y el "Por Qué" Autoría Difusa ¿Quién escribe cuando escribimos con IA? Epistemología Opaca Caja negra vs. reproducibilidad científica Sesgos Algorítmicos Los prejuicios matemáticos de la ciencia Asimetría Cognitiva Dependencia tecnológica vs. pensamiento crítico El Problema Fundamental La IA generativa desdibuja la línea entre herramienta y co-autor , creando una crisis de atribución intelectual sin precedentes. La Pregunta Central No es "¿Cómo usamos la IA?" sino "¿Quién es el sujeto epistémico?" Implicación Científica Sin claridad sobre la agencia , la reproducibilidad y la validación del conocimiento se vuelven imposibles. Los cuatro dilemas se intersecan en la crisis de agencia : la pérdida de claridad sobre quién es responsable del conocimiento producido CRISIS DE AGENCIA
DILEMAS CRÍTICOS Los 5 Dilemas Críticos DILEMA 01 Plagio Tecnológico Paráfrasis automatizada que evade detección tradicional Pérdida de atribución intelectual Difuminación de fronteras del plagio Imposibilidad de rastrear fuentes Amenaza a la originalidad académica DILEMA 02 Fabricación de Datos Alucinaciones presentadas como evidencia empírica Referencias bibliográficas falsas Datos estadísticos inventados Corpus de evidencia inexistente Corrosión de la base empírica DILEMA 03 Homogeneizació n del Pensamiento Convergencia hacia respuestas promedio Pérdida de disidencia epistémica Pensamiento convencional reforzado Menor diversidad metodológica Aplanamiento del debate científico DILEMA 04 Velocidad vs. Rigurosidad "Publicar o perecer" potenciado exponencialmente Producción académica acelerada Menor tiempo de reflexión Calidad sacrificada por cantidad Erosión de estándares académicos DILEMA 05 Desigualdad Investigativa Brecha Norte-Sur en acceso a modelos avanzados Acceso desigual a GPT-4, Claude, etc. Mayor productividad en países ricos Consolidación de desigualdades Colonialismo epistémico digital
MARCO TEÓRICO Hacia una Epistemología de la Transparencia Caja Negra Opaca Input → [???] Output → Proceso irreconstruible Sin trazabilidad epistémica Ciencia sin transparencia = Alquimia con algoritmos Caja de Cristal Transparente Input → [Proceso Visible] Output → Cada capa reconstruible Trazabilidad completa Prompts documentados Iteraciones registradas Criterios de selección Validación humana Principio de Explicabilidad Toda investigación asistida por IA debe ser reconstruible por pares humanos sin acceso a la IA original. Documentación de prompts utilizados Registro de iteraciones y modificaciones Justificación de selección de outputs Floridi & Cowls, 2022 Dignidad Epistémica El derecho a saber cómo se produjo el conocimiento que consumimos. La transparencia como condición de respeto al lector. Declaración honesta de métodos Reconocimiento de limitaciones Acceso a datos de proceso "La ciencia sin transparencia es alquimia con algoritmos"
CRITERIOS ÉTICO-METODOLÓGICOS Principios Ético-Metodológicos PILAR 01 Verificabilidad Humana Toda afirmación debe ser verificable por un par humano sin acceso a la IA original. Trazabilidad Completa Prompts, iteraciones, selección documentados Reconstrucción Posible Cualquier colega puede replicar el proceso Validación Independiente Sin depender de herramientas específicas La reproducibilidad es la base de la ciencia PILAR 02 Transparencia Activa Declaración explícita del uso de IA: extent, tipo, finalidad. Qué herramienta se usó GPT-4, Claude, Gemini, etc. En qué etapa del proceso Ideación, redacción, análisis, revisión Con qué propósito Brainstorming, edición, generación Como declaramos conflictos de interés o financiamiento PILAR 03 Supervisión Consciente "Human-in-the-loop" no como formalidad, sino como responsabilidad ontológica. Responsabilidad Ontológica El investigador como sujeto moral Garante Ético No mero operador de herramientas Juicio Crítico Activo Validación consciente de cada output La ética no se delega a algoritmos
VIRTUDES DEL INVESTIGADOR Las Virtudes del Investigador del Siglo XXI La ética no es un obstáculo, sino una brújula Las virtudes cardinales del investigador se redefinen en la era de la IA generativa Prudencia Tecnológica Phronesis La sabiduría práctica de Aristóteles revisitada: saber CUÁNDO, CÓMO y POR QUÉ usar la IA. Momento Oportuno Medio Adecuado Fin Ético Justicia Epistémica Fricker Compensar activamente los sesgos algorítmicos mediante diversidad metodológica intencional. Reconocer sesgos en datasets de entrenamiento Buscar deliberadamente perspectivas marginales Validar con fuentes no representadas en la IA Integridad Procesal Honestidad Honestidad radical sobre las limitaciones y alcances reales de la asistencia IA. Declarar Qué NO hizo la IA Reconocer Errores de la herramienta Documentar Proceso completo Asumir Responsabilidad total
RESPONSABILIDAD DISTRIBUIDA Responsabilidad Distribuida La ética de la IA en investigación no es responsabilidad de un solo actor, sino un sistema de responsabilidades interconectadas que fluyen en ambas direcciones.
RESPONSABILIDAD SENIOR De Consumidor a Garante Ético El poder analítico de la IA viene con responsabilidad hermenéutica — Adaptado de Habermas Curaduría Epistémica Validar no solo resultados sino procesos generativos. La revisión por pares debe incluir auditoría de uso de IA. Revisar prompts utilizados Validar iteraciones Cuestionar outputs Verificar fuentes Mentoría Ética Enseñar a pensar con IA, no pensar por IA. Formar investigadores críticos, no operadores de prompts. Modelar el uso ético en la práctica diaria Crear espacios seguros para discutir dilemas Compartir fracasos y aprendizajes éticos Defensa Institucional Presionar por marcos regulatorios claros y justos. Participar activamente en comités y políticas. Políticas Comités Normativas
GOBERNANZA INSTITUCIONAL El Papel de la Institución Universitaria Gobernanza Algorítmica Académica Marcos Normativos Adaptativos Políticas vivas, no estáticas. Revisión semestral ante la evolución tecnológica vertiginosa. Actualización periódica Consulta con stakeholders Flexibilidad normativa Educación Ética Integral No solo compliance, sino formación filosófica en ética de la tecnología. Cursos obligatorios de ética de IA Talleres prácticos de casos Reflexión filosófica profunda Infraestructura de Transparencia Herramientas institucionales para declaración y auditoría de uso de IA. Plantillas de declaración Sistemas de auditoría Repositorios de buenas prácticas
PROPUESTAS CONCRETAS Recomendaciones para Políticas Universitarias 5 Mandamientos Operativos 1 Declaración Obligatoria Estandarizada Tipo COPE (Committee on Publication Ethics) ampliado. Formato unificado para todas las publicaciones. 2 Prohibición en Decisiones Finales IA no puede participar en admissions, tenure, revisión por pares. Línea roja ética. 3 Laboratorios de Ética por Facultad Espacios seguros para dilemas, no solo sanciones. Cultura de aprendizaje ético. 4 Alfabetización Algorítmica Obligatoria Competencia transversal para todos los programas. Entender cómo funciona la IA. 5 Colaboración Internacional Estándares globales para evitar "paraísos éticos" académicos. Armonización internacional. CARTA ÉTICA UNIVERSITARIA
VISIÓN A FUTURO La Universidad como Espacio de Resistencia Ética Humanizar la Adopción No se trata de rechazar la IA, sino de humanizar su adopción. La tecnología debe servir a los valores humanos, no reemplazarlos. El Rol de la Universidad La universidad debe ser el lugar donde la tecnología se somete a interrogante ético antes que a adopción masiva. Meta Final IA como prostética intelectual, no como prótesis de reemplazo del juicio crítico. Amplificar, no sustituir. EL FUTURO RESPETA EL PASADO
INTERROGANTES PENDIENTES ? ¿Estamos formando investigadores o operadores de prompts? La diferencia entre alguien que piensa y alguien que solo ejecuta comandos en una interfaz. ¿Dónde queda el pensamiento crítico? ? ¿Cómo auditamos la "creatividad" cuando la IA genera hipótesis? Si una máquina propone una hipótesis innovadora, ¿quién es el creador? ¿Cómo evaluamos originalidad algorítmica? ? ¿Es la eficiencia académica un valor ético superior a la profundidad del pensamiento? El "publish or perish" potenciado por IA. ¿Estamos sacrificando calidad por cantidad? ¿Qué valoramos realmente? Estas preguntas no tienen respuestas fáciles. Requieren diálogo colectivo y reflexión continua.
Muchas Gracias La verdadera inteligencia artificial no reemplazará a los investigadores; solo los investigadores éticos podrán darle sentido a la inteligencia artificial Email msc.migueldurant1@gmail.c om ORCID 0009-0007-5319-5445 Twitter/ LinkedIn @migueldurant Recursos Éticos 2DO CONGRESO MUNDIAL DE INVESTIGACIÓN CIENTÍFICA La ética es nuestra brújula en el océano de la innovación