SAP AI & User Experience: por qué la confianza del usuario es clave

La inteligencia artificial (IA) en combinación con la experiencia del usuario (UX) agrega calidad adicional al diseño clásico de UX. Pero, ¿AI realmente solicita una extensión UX especial? ¿Un UX funcional no cubre ya todas las necesidades, incluida la IA? Hagamos una investigación detallada.

El equipo de práctica de diseño de IA de SAP llevó a cabo múltiples actividades de investigación de usuarios sobre casos de uso compatibles con IA en características y patrones de IA, que reveló tres cualidades clave:

• Control: Si pueden controlarlo, los usuarios aceptarán una IA de apoyo.
• Transparencia: Los usuarios deben obtener la información completa sobre el servicio de IA compatible.
• Explicación: En cierta etapa, los usuarios exigen explicaciones sobre la IA.Quieren saber cómo y por qué reciben pre–seleccionado y pre–datos analizados.

La aplicación de estas cualidades ayuda a la tecnología de IA a ganarse la confianza de los usuarios. Y si confían en un servicio y aceptan su ayuda, los usuarios están dispuestos a integrarlo en sus rutinas de trabajo diarias para obtener fácilmente mejores resultados comerciales.

Impacto de AI y UX: ayuda a los usuarios a tomar decisiones informadas más rápido y brinda más confianza y supervisión.

UX combinado con IA: un equipo fuerte

Para ganarse la plena confianza del usuario en un servicio de IA, el diseño de IA/UX debe cubrir no solo las interfaces de usuario, pero también mostrar información de una manera conforme al caso de uso.

IA/UX debe tratar los resultados del algoritmo de una manera transparente y explicable. Esto permite a los usuarios construir su confiar en la tecnología a lo largo del tiempo y aceptarla como apoyo no como competidor intelectual.

Por qué la IA necesita invertir en la confianza del usuario

Para fomentar esta relación de confianza, SAP ha publicado el directriz ética de IA para proporcionar orientación al implementar IA en sus soluciones comerciales. esta politica define las reglas, expectativas y dirección para la vida ciclo de desarrollo, implementación, uso y venta de nuestros sistemas de IA.
¿Por qué la confianza es una cualidad tan importante en el contexto de la IA? Hablar de software compatible con IA significa hablar de una transición de responsabilidad: lejos de los procesos de decisión impulsados ​​por humanos hacia decisiones hechas por máquinas. Esto implica que los usuarios humanos estén entregando su toma de decisiones y control a decisiones calculadas por máquinas/IA.

Se podría argumentar que tales casos ya se aplicaron en el pasado. Esto es cierto. Ay repasando la historia de ERP software, engorrosos procesos manuales estaban en el enfoque específico de digitalización y automatización: Fprocesamiento de datos rom a través de punch tarjetas para guía de software ERP usando flujos de decisión predefinidos con motores de definición de reglas extendidos para tomar un ejemplo.
es importante que Medios de integración de IA a nueva calidad de aprendizaje y decisión–haciendo, con el software tomando el asiento del conductor. AI–software habilitado es mas independiente; it acepta es decisiones asiempre con el objetivo en mente a no solo entregar pero a optimizar, modificar y ajustar a las cambiantes condiciones comerciales.

Cómo UX se convierte en el llave a la confianza del usuario

En este punto exacto de un entorno controlado por IA, UX tiene un papel esencial. Él guías la forma en que se estructura la información, se muestra, y hecho interactivo para el usuario. Al presentar a los usuarios los servicios de IA, UX tiene la obligación de crear esta relación de confianza que buscan los usuarios. Es una obligación porque UX no es solo el dominio para crear software simple y fácil de usar, sino también para atender las necesidades humanas. Mantener a los usuarios enfocados significa la responsabilidad de UX de «crear una IA verdaderamente centrada en el ser humano», como afirman Tim Brown y Barry Katz en su libro «Change by Design».

Transfiriendo esto a un ejemplo concreto, SAP SuccessFactors ha desarrollado un servicio compatible con IA para una selección de capacitación guiada basada en los intereses de los usuarios. Los usuarios primero ingresan sus solicitudes de capacitación e intereses y obtienen a cambio una selección personalizada de sugerencias de cursos de capacitación respaldadas por aprendizaje automático (consulte la ayuda de SAP para obtener más información).

Propuestas formativas de SuccessFactors apoyadas en machine learning

Vamos tAlaskami este ejemplo de recomendación y transferencia a un servicio de recomendación de logística enfocado a entregas de material. como inspiración sirve el imprevisto del bloqueo del Canal de Suez en 2021 en Egipto. El efectos wantes de pesado logístico retrasos, Por ejemplo sobre entregas de material. Material proveedores o entrega Los procesos pueden ser unajustado en un automatizado y rapido manera – todo habilitado por IA evitando material escasos. En este contexto, podrías continuar ynuestro leer acerca de nuestro Ejemplo de manejo de situaciones con a concentrarse en eficiente manejo de materiales. El soporte de IA podría sugerir muchos soluciones alternativas más rápidas que las acciones humanas.

Con estos antecedentes, los efectos beneficiosos de los procesos de toma de decisiones respaldados por IA convertirse obvio. La IA permite a las empresas reaccionar más rápido, con propuestas de solución sólidas para determinadas situaciones problemáticas.

Mantener procesos de toma de decisiones de IA rápidos y autónomos bajo supervisión humana con las cualidades antes mencionadas (control, transparencia, y explicabilidad) son fáciles de entender en este contexto. Los usuarios ganarán confianza en el software impulsado por IA solo si los tratan como humanos y comparten la transparencia en sus decisiones tomadas por IA.

Este tipo de razonamiento sobre la utilidad del diseño no es nuevo. En realidad, se remonta al comienzo mismo de la profesión del diseño. Ya hace 76 años, cuando se inventaron las computadoras, László Mohogly-Nagy (profesor de la Bauhaus alemana y fundador del Instituto de Diseño de Chicago) afirmó: “El diseño es una tarea compleja y exigente. Implica la integración de los recursos tecnológicos, sociales, y requisitos económicos […] se trata de pensar en las relaciones”. Las relaciones fructíferas solo pueden crecer en un entorno de confianza. Esto se vuelve aún más importante a medida que creamos servicios de máquinas para hacerse cargo de los procesos humanos de toma de decisiones.

Referencias adicionales:

Reconocimiento
Muchas gracias a mis compañeros de equipo de AI Design Practice de SAP por sus comentarios.