{"id":8442,"date":"2023-10-11T00:23:54","date_gmt":"2023-10-11T00:23:54","guid":{"rendered":"https:\/\/lamassu.mx\/?p=8442"},"modified":"2026-02-17T18:12:31","modified_gmt":"2026-02-18T02:12:31","slug":"pilares-de-una-ia-generativa-responsable-y-un-codigo-de-etica-para-el-futuro","status":"publish","type":"post","link":"https:\/\/lamassu.mx\/en\/pilares-de-una-ia-generativa-responsable-y-un-codigo-de-etica-para-el-futuro\/","title":{"rendered":"Pilares de una IA Generativa responsable y un c\u00f3digo de \u00e9tica para el futuro"},"content":{"rendered":"

Del art\u00edculo publicado por Toptal,<\/a> \u201c5 Pillars of Responsible Generative AI: A Code of Ethics for the Future\u201d<\/a><\/p>\n\n\n\n

Los avances de la IA generativa plantean nuevas preguntas sobre la propiedad de los datos<\/strong> (Los qu\u00e9 utiliza un sistema de IA como Chat GPT cuando responde a un requerimiento), la integridad del contenido, el sesgo algor\u00edtmico, <\/strong>entre otras. Tres expertos a la vanguardia de PNL*\u00a0(Procesamiento del Lenguaje Natural) presentan recomendaciones para desarrollar soluciones \u00e9ticas de IA generativa. <\/p>\n\n\n\n

\n

*La PNL es un campo dentro de la IA que utiliza ordenadores para procesar grandes cantidades de datos escritos con el fin de comprenderlos. Esta comprensi\u00f3n puede ayudar a las m\u00e1quinas a interactuar con los humanos de forma m\u00e1s eficaz reconociendo patrones en su habla o escritura.<\/strong><\/p>\n<\/blockquote>\n\n\n\n

La Inteligencia Artificial, IA generativa est\u00e1 en todas partes. Con la capacidad de producir texto, im\u00e1genes, videos y m\u00e1s, el 77% de los ejecutivos la consideran la tecnolog\u00eda emergente de mayor impacto de los pr\u00f3ximos tres a cinco a\u00f1os. Aunque la IA generativa se ha investigado desde la d\u00e9cada de 1960, sus capacidades se han ampliado en los \u00faltimos a\u00f1os debido a cantidades sin precedentes de datos de entrenamiento y la aparici\u00f3n de modelos b\u00e1sicos en 2021. Estos factores hicieron posibles tecnolog\u00edas como Chat GPT y DALL-E y marcaron el comienzo de la adopci\u00f3n generalizada de IA generativa.
Sin embargo, su r\u00e1pida influencia y crecimiento tambi\u00e9n genera una gran cantidad de preocupaciones \u00e9ticas, dice Surbhi Gupta<\/strong>, ingeniero de GPT e inteligencia artificial en Toptal, que ha trabajado en proyectos de procesamiento del lenguaje natural (PLN) de vanguardia que van desde chatbots y herramientas de generaci\u00f3n de contenidos relacionados con el marketing para codificar int\u00e9rpretes. Gupta ha sido testigo de primera mano de desaf\u00edos como alucinaciones, prejuicios y desalineaciones. Por ejemplo, not\u00f3 que un chatbot generativo de IA destinado a identificar el prop\u00f3sito de marca de los usuarios ten\u00eda dificultades para hacer preguntas personalizadas (dependiendo de las tendencias generales de la industria) y no respond\u00eda a situaciones inesperadas y de alto riesgo. <\/p>\n\n\n\n

\u00bfPor qu\u00e9 la \u00e9tica de la IA generativa es importante y urgente?<\/h2>\n\n\n\n
\n
\n

La \u00e9tica y las regulaciones de la IA han sido debatidas durante a\u00f1os entre legisladores, gobiernos y tecn\u00f3logos de todo el mundo. Pero la reciente IA generativa aumenta la urgencia de tales mandatos y aumenta los riesgos, al tiempo que intensifica las preocupaciones existentes sobre la IA en torno a la desinformaci\u00f3n y los datos de entrenamiento sesgados. Tambi\u00e9n introduce nuevos desaf\u00edos, como garantizar la autenticidad, la transparencia y directrices claras sobre la propiedad de los datos,<\/strong> afirma el experto en IA de Toptal, Heiko Hotz. Con m\u00e1s de 20 a\u00f1os de experiencia en el sector tecnol\u00f3gico, Hotz actualmente asesora a empresas globales sobre temas de IA generativa como arquitecto senior de soluciones para IA y aprendizaje autom\u00e1tico en AWS (Amazon Web Services).<\/p>\n\n\n\n

En particular, la posible incapacidad de determinar si algo es generado por IA o por humanos tiene consecuencias de gran alcance.<\/strong> Con videos deepface, arte realista de IA y chatbots conversacionales que pueden imitar la empat\u00eda, el humor y otras respuestas emocionales, el enga\u00f1o de la IA generativa es una de las principales preocupaciones<\/strong>, afirma Hotz.<\/p>\n<\/div>\n\n\n\n

\n

Tambi\u00e9n es pertinente la cuesti\u00f3n de la propiedad de los datos y las correspondientes legalidades en torno a la propiedad intelectual<\/strong> y la privacidad de los datos<\/strong>. Los grandes conjuntos de datos de entrenamiento dificultan obtener el consentimiento, atribuir o acreditar las fuentes originales, y las capacidades avanzadas de personalizaci\u00f3n que imitan el trabajo de m\u00fasicos o artistas espec\u00edficos crean nuevas preocupaciones sobre los derechos de autor.<\/strong> Adem\u00e1s, las investigaciones han demostrado que los LLM (Large Language Model) pueden revelar informaci\u00f3n confidencial o personal a partir de sus datos de capacitaci\u00f3n, y se estima que el 15% de los empleados ya est\u00e1n poniendo en riesgo los datos comerciales al ingresar peri\u00f3dicamente informaci\u00f3n de la empresa en Chat GPT.<\/p>\n\n\n\n

\"\"<\/figure>\n<\/div>\n<\/div>\n\n\n\n

Cinco pilares para construir una IA generativa responsable<\/h2>\n\n\n\n

\u201cLa IA generativa \u00e9tica es una responsabilidad compartida que involucra a las partes interesadas en todos los niveles. Todos tenemos un papel que desempe\u00f1ar para garantizar que la IA se utilice de manera que respete los derechos humanos, promueva la justicia y beneficie a la sociedad en su conjunto\u201d<\/strong>. P Los desarrolladores son especialmente pertinentes a la hora de crear sistemas de IA \u00e9ticos. Eligen los datos de estos sistemas, dise\u00f1an su estructura e interpretan sus resultados, y sus acciones pueden tener grandes efectos en cadena y afectar a la sociedad en general. Las pr\u00e1cticas de ingenier\u00eda \u00e9tica<\/strong> son fundamentales para la responsabilidad multidisciplinaria y colaborativa de construir una IA generativa \u00e9tica.<\/strong> <\/p>\n\n\n\n

Para lograr una IA generativa responsable, se recomienda incorporar la \u00e9tica en la pr\u00e1ctica de la ingenier\u00eda tanto a nivel educativo como organizacional<\/strong>: \u201cAl igual que los profesionales m\u00e9dicos que se gu\u00edan por un c\u00f3digo de \u00e9tica desde el comienzo de su educaci\u00f3n, la formaci\u00f3n de los ingenieros tambi\u00e9n debe incorporar principios fundamentales de la \u00e9tica\u201d.<\/p>\n\n\n\n

Aqu\u00ed, Gupta, Hotz y Karchi proponen un c\u00f3digo de \u00e9tica de IA generativa para ingenieros, definiendo cinco pilares \u00e9ticos <\/strong>que se deben hacer cumplir al desarrollar soluciones de IA generativa. Estos pilares se inspiran en opiniones de otros expertos, directrices l\u00edderes en IA responsable y orientaci\u00f3n adicional centrada en la IA generativa y est\u00e1n dirigidos espec\u00edficamente a los ingenieros que crean IA generativa.<\/p>\n\n\n\n

\n
\n
    \n
  1. Exactitud<\/li>\n<\/ol>\n\n\n\n

    Dadas las preocupaciones existentes sobre la IA generativa en torno a la desinformaci\u00f3n, los ingenieros deben priorizar la precisi\u00f3n y la veracidad al dise\u00f1ar soluciones. M\u00e9todos como verificar la calidad de los datos y remediar los modelos despu\u00e9s de una falla pueden ayudar a lograr precisi\u00f3n. Uno de los m\u00e9todos m\u00e1s destacados para esto es la generaci\u00f3n aumentada de recuperaci\u00f3n (RAG), una t\u00e9cnica l\u00edder para promover la precisi\u00f3n y la veracidad en los LLM (Grandes Modelos de Lenguaje), explica Hotz.<\/p>\n\n\n\n

    Ha encontrado estos m\u00e9todos RAG (Retrieval-Augmented Generation=  Generaci\u00f3n aumentada de recuperaci\u00f3n) -particularmente efectivos:<\/p>\n\n\n\n

    \"\"<\/figure>\n<\/div>\n\n\n\n
    \n