Tecnologías como la inteligencia artificial y el machine learning ofrecen oportunidades interesantes para mejorar las capacidades humanas en muchas áreas. Sin embargo, si se desarrollan e implementan sin los controles apropiados y sin la participación humana, esas tecnologías pueden perder eficacia y verdadero impacto en la humanidad.
Se trata de una preocupación importante a nivel mundial. En los últimos años, muchas organizaciones innovadoras y comprometidas que se esfuerzan por mejorar el uso responsable de la tecnología en Estados Unidos (incluyendo SAS) se unieron para lanzar la hoja de ruta para la IA responsable bautizada Business Roundtable. Consiste en una asociación de directores ejecutivos de las principales empresas de Estados Unidos para trabajar en pro de una innovación responsable, como lo han denominado.
La innovación responsable incluye – e incluso va más allá de – temas importantes como la IA responsable, los algoritmos o los sesgos a considerar en todo el proceso de innovación. Se trata de un enfoque mucho más ambicioso que proporciona equidad y justicia en cada paso, desde el origen de una idea o propuesta hasta su desarrollo e implementación.
Recomendado: Tres tendencias que impulsarán la innovación empresarial en 2023
En este marco y con la ayuda de expertos mundiales, se creó recientemente SAS Data Ethics Practice (DEP, por sus siglas en inglés) una iniciativa que guiará un esfuerzo coordinado a nivel mundial para ayudar a personas y empresas en todo el mundo a implementar sistemas basados en datos que promuevan el bienestar humano y la igualdad entre las personas.
Se trata de una iniciativa que será dirigida por Reggie Townsend, recientemente nombrado miembro del Consejo Asesor Nacional de IA (NAIAC) del Departamento de Comercio de Estados Unidos y quien también es miembro de la junta directiva de EqualAI, una organización sin ánimo de lucro enfocada en reducir el sesgo inconsciente en el desarrollo y uso de la IA.
“Si bien llevamos en esto mucho tiempo, no tenemos todas las respuestas”, explica Townsend al hablar de la iniciativa. “Aquellos que crean, consumen y regulan los datos y la IA comparten el riesgo, la recompensa y la responsabilidad de ser administradores confiables de la tecnología en beneficio de las personas y del planeta que habitamos”, añade.
Las organizaciones deben poner en funcionamiento la IA de forma justa, transparente, responsable y cuidadosamente gestionada. SAS cuenta con los recursos y la experiencia para ayudar a nuestros clientes a personalizar e implementar nuestros productos de manera que les ayuden a satisfacer sus necesidades y a cumplir con los requisitos legales aplicables.
El compromiso es incorporar los principios de innovación responsable centrados en el ser humano, la inclusión, transparencia, responsabilidad, solidez, privacidad y seguridad a los procesos de transformación digital que se desarrollan en la actualidad.
Para ello SAS aborda estos principios de la siguiente manera:
– Centrado en el ser humano:
Las herramientas visuales de SAS ayudan a las personas a entender y utilizar los conocimientos obtenidos de los modelos de Machine Learning, ofreciendo informes de interpretación de modelos estándar con explicaciones en un lenguaje sencillo a partir de la generación de lenguaje natural integrado. Otro ejemplo está en la generación de alertas de fraude, donde se muestra alertas para el triage humano y la gestión de casos, capturando automáticamente los detalles de gobierno, auditoría y cumplimiento. Las interfaces de usuario de SAS son altamente personalizables en función de las necesidades y los flujos de trabajo de los clientes, permitiendo a los clientes de SAS habilitar la supervisión y la intervención humana.
– Diversidad: Ya sea que las soluciones de IA sean construidas por SAS o en colaboración con nuestros clientes, los equipos diversos son más propensos a crear soluciones que anticipan el sesgo injusto y toman medidas para evitarlo o mitigarlo. Los esfuerzos de diversidad e inclusión de SAS fomentan la multidimensionalidad tanto dentro de SAS como fuera de ella.
– Accesibilidad: SAS se compromete a proporcionar software accesible. Las características de accesibilidad de los productos de SAS están creadas en gran medida por personas con discapacidad para usuarios con discapacidad. Además, el equipo de accesibilidad de SAS forma al personal de I+D de SAS para que pueda integrar la accesibilidad en el desarrollo de los productos de SAS. El Centro de Apoyo a la Discapacidad de SAS proporciona información sobre las características de accesibilidad de los productos SAS y la formación de los usuarios con discapacidad.
