SINGAPUR – Los médicos del Hospital General de Changi (CGH) están probando el uso de inteligencia artificial generada (Genai) para resumir informes médicos y proporcionar recomendaciones para la vigilancia clínica.
¿Pero son precisas estas recomendaciones?
Mientras tanto, la compañía de tecnología regulada Taketaki está utilizando Genai para investigar posibles casos de lavado de dinero y fraude.
¿Son confiables los hallazgos?
A principios de 2025, la Autoridad de Desarrollo de Medios de InfoComm (IMDA) y la Fundación AI Verify desplegaron una iniciativa centrada en el uso del mundo real de Genai para fomentar la adopción segura de IA en una variedad de industrias.
La AI Verification Foundation es una subsidiaria sin fines de lucro IMDA que aborda los problemas apremiantes que surgen de la IA.
Entre marzo y mayo, 17 organizaciones que abarcaban 10 sectores, incluidos recursos humanos, atención médica y finanzas, fueron evaluadas por una compañía especializada de pruebas de Genai para aplicaciones de Genai.
Los hallazgos se publicaron el 29 de mayo y muestran el compromiso de Singapur de tomar la iniciativa en el desarrollo de estándares globales para el despliegue seguro de aplicaciones de Genai.
El piloto global de aseguramiento de la IA, conocido como la iniciativa, permitió a las organizaciones ver cómo funcionan en condiciones prácticas, dijo Tan Kiat, ministro principal de desarrollo digital e información, el 29 de mayo.
Estaba hablando el último día de la conferencia de Asia Tech X Singapur celebrada en Capella Singapur.
El director de datos y el oficial digital de CGH, Chow Weien, profesor asociado clínico, dijo a The Straits Times que participar en la iniciativa ayudará a los hospitales a diseñar formas más robustas y confiables de probar modelos de IA.
«Por ejemplo, puede evaluar si la aplicación Genai extrae con precisión información clínica del informe de colonoscopia de un médico, y si proporciona recomendaciones apropiadas en línea con las pautas clínicas», dijo.
El fundador y CEO de Takeitaki, Abhishek Chatterjee, dijo a ST que la experiencia hizo que el modelo de IA de la compañía fuera más auditable y permitió que las barandillas se incorporen a las alucinaciones de IA.
Estos son resultados inexactos o sin sentido generados por factores insuficientes en los datos de entrenamiento.
Mientras que las iniciativas anteriores se centraron en probar modelos de IA, el piloto global de aseguramiento de IA tenía como objetivo probar la confiabilidad de Genai en escenarios del mundo real, dice el director de exefunción de la AI Vefuify Director Dameek Kundu.
Esto es importante, dijo, ya que la información proporcionada a la IA puede ser defectuosa.
El objetivo es utilizar Genai «con cuerpo y predecible» para garantizar la confiabilidad de la tecnología para el uso diario.
En una declaración, IMDA y la Fundación de Verificación de AI dijeron que la iniciativa también mostró que los expertos humanos son esenciales en cada etapa de las pruebas, desde el diseño de pruebas apropiadas hasta la interpretación de los resultados de las pruebas.
La tecnología podría mejorar en el futuro, pero por ahora, todavía necesita un toque humano, dijo Sameek.
«Esta tecnología no es suficiente para confiar ciegamente en nosotros y decir que está funcionando», dijo.
Un informe que detalla los hallazgos está disponible en el sitio web de AI Verify Foundation.
Junto con el piloto, también se han desarrollado kits de inicio de prueba para aplicaciones de Genai, que sirven como un conjunto de pautas voluntarias para las empresas que desean adoptar de manera responsable Genai.
«Se basa en ideas del piloto global de aseguramiento de la IA y aprovecha la experiencia de los profesionales para garantizar que la guía sea práctica y útil», dijo Tan.
Agregó que el kit incluye nuevas mejores prácticas y metodologías para probar aplicaciones Genai, así como orientación práctica sobre cómo realizar tales pruebas.
Las pautas se complementan con herramientas de prueba para que los desarrolladores puedan realizar estas pruebas. Estas pruebas estarán disponibles gradualmente a través de IMDA y AI Verify de Project Moonshot de Foundation, un conjunto de herramientas dirigido a los desarrolladores de aplicaciones de IA.
IMDA ofrece consultas públicas de cuatro semanas con kits de inicio que se pueden encontrar en línea. Las discusiones terminarán el 25 de junio.
Los comentarios se pueden enviar por correo electrónico a [email protected] utilizando el encabezado de correo electrónico «Comentarios sobre la redacción de kits de inicio para pruebas de seguridad de las aplicaciones basadas en LLM».
Tan también anunció que AI Singapur (AISG), una iniciativa nacional para construir capacidad de AI Republic, firmará un memorando con el Programa de las Naciones Unidas para el Desarrollo (PNUD) para avanzar en la alfabetización de IA en los países en desarrollo.
La asociación verá el programa AI para Good AISG lanzado en 2024 para fortalecer las capacidades nacionales de IA y expandirse a escala internacional, dijo.
«Aisg y PNUD explorarán la IA temprana para pilotos sobresalientes en el sudeste asiático, las islas Caribe y Pacífico, lo que nos permitirá trabajar juntos para apoyar nuestra participación más inclusiva en el crecimiento impulsado por la IA», agregó.
Únase al canal WhatsApp de ST para obtener las últimas noticias y visitas obligadas.
