Si bien la tecnología para desarrollar chatbots impulsados por inteligencia artificial ha existido durante algún tiempo, un nuevo punto de vista en JAMA establece los aspectos clínicos, éticos y legales que se deben considerar antes de aplicarlos en la atención médica. Y si bien la aparición de COVID-19 y el distanciamiento social que lo acompaña ha llevado a más sistemas de salud a explorar y aplicar chatbots automatizados, lalos autores aún instan a la precaución y la consideración antes de continuar.
"Debemos reconocer que esta es una tecnología relativamente nueva e incluso para los sistemas más antiguos que estaban en funcionamiento, los datos son limitados", dijo el autor principal del punto de vista, John D. McGreevey III, MD, profesor asociado de Medicina enla Escuela de Medicina Perelman de la Universidad de Pensilvania. "Cualquier esfuerzo también debe darse cuenta de que muchos de los datos que tenemos provienen de la investigación, no de una implementación clínica generalizada. Sabiendo que, la evaluación de estos sistemas debe ser sólida cuando ingresan al espacio clínico, y quienes los operan deben ser lo suficientemente ágiles para adaptarse rápidamente a los comentarios ".
McGreevey, acompañado por C. William Hanson III, MD, director de información médica en Penn Medicine, y Ross Koppel, PhD, FACMI, miembro principal del Instituto Leonard Davis de Economía de la Salud en Penn y profesor de Informática Médica, escribieron"Aspectos clínicos, legales y éticos de los agentes conversacionales asistidos por IA". En él, los autores establecen 12 áreas de enfoque diferentes que deben tenerse en cuenta al planificar la implementación de un chatbot, o, más formalmente, "agente conversacional", encuidado.
Los chatbots son una herramienta que se utiliza para comunicarse con los pacientes a través de mensajes de texto o de voz. Muchos chatbots funcionan con inteligencia artificial IA. Este documento analiza específicamente los chatbots que utilizan el procesamiento del lenguaje natural, un proceso de IA que busca "comprender" el lenguaje utilizadoen conversaciones y dibuja hilos y conexiones de ellos para proporcionar respuestas significativas y útiles.
Con la atención médica, esos mensajes y las reacciones de las personas a ellos son extremadamente importantes y tienen consecuencias tangibles.
"Estamos cada vez más en comunicación directa con nuestros pacientes a través de registros médicos electrónicos, dándoles acceso directo a los resultados de sus pruebas, diagnósticos y notas de los médicos", dijo Hanson. "Los chatbots tienen la capacidad de mejorar el valor de esas comunicaciones en elpor un lado, o causar confusión o incluso daño, por el otro ".
Por ejemplo, la forma en que un chatbot maneja a alguien que le dice algo tan serio como "Quiero lastimarme" tiene muchas implicaciones diferentes.
En el ejemplo de las autolesiones, hay varias áreas de enfoque establecidas por los autores que aplican. Esto toca principalmente la categoría "Seguridad del paciente": ¿Quién monitorea el chatbot y con qué frecuencia lo hace?toca "Confianza y transparencia": ¿Este paciente se tomaría realmente en serio la respuesta de un chatbot conocido? Desafortunadamente, también plantea preguntas en la categoría "Legal y de licencias" del periódico: ¿Quién es responsable si el chatbot falla en su tarea?, una pregunta en la categoría "Alcance" también puede aplicarse aquí: ¿Es esta una tarea más adecuada para un chatbot, o es algo que aún debería ser operado por humanos?
Desde su punto de vista, el equipo cree que ha establecido consideraciones clave que pueden informar un marco para la toma de decisiones cuando se trata de implementar chatbots en el cuidado de la salud. Sus consideraciones deben aplicarse incluso cuando se requiere una implementación rápida para responder a eventos como elpropagación de COVID-19.
"¿Hasta qué punto deberían los chatbots extender las capacidades de los médicos, lo que llamaríamos inteligencia aumentada, o reemplazarlos a través de inteligencia totalmente artificial?", Dijo Koppel. "De la misma manera, necesitamos determinar los límites de la autoridad de los chatbots para desempeñarse endiferentes escenarios clínicos, como cuando un paciente indica que tiene tos, el chatbot solo debería responder informándole a una enfermera o investigando más: '¿Puede contarme más sobre su tos?' "
Los chatbots tienen la oportunidad de mejorar significativamente los resultados de salud y reducir los costos operativos de los sistemas de salud, pero la evaluación y la investigación serán clave para eso: tanto para garantizar un funcionamiento fluido como para mantener la confianza tanto de los pacientes como de los trabajadores de la salud.
"Creemos que el trabajo no está terminado cuando se implementa el agente conversacional", dijo McGreevey. "Estas serán tecnologías cada vez más impactantes que merecen ser monitoreadas no solo antes de su lanzamiento, sino de manera continua durante todo el ciclo de vidade su trabajo con los pacientes ".
Fuente de la historia :
Materiales proporcionado por Facultad de Medicina de la Universidad de Pennsylvania . Nota: el contenido se puede editar por estilo y longitud.
Referencia de la revista :
cite esta página :