Responsables de la toma de decisiones sobre IA están temerosos por la privacidad y ciberseguridad

Un estudio realizado a principios de 2024 por Coleman Parkes Research, que entrevistó a 300 personas responsables de la toma de decisiones sobre estrategia o análisis de datos de IA Generativa en EE.UU. concluye que las organizaciones están entusiasmadas con el potencial de la tecnología, pero la falta de planificación estratégica y la escasez de talento les impide aprovechar de forma amplia su valor.

Según la responsable del estudio, Marinela Profi, “desarrollar una estrategia progresiva e invertir en tecnología que ofrezca integración, gobernanza y explicabilidad de los LLM son pasos cruciales que todas las organizaciones deberían dar antes de invertir en la implementación de nuevas herramientas”.

Los resultados del estudio indican que las encuentran obstáculos en algunas áreas clave de la implantación de IAs generativas, especialmente:

·  Confianza en el uso de los datos: sólo una de cada 10 organizaciones dispone de un sistema fiable para medir el riesgo de sesgo y privacidad en los LLM. Además, el 93% de las empresas estadounidenses carece de un marco de gobernanza integral para GenAI, y la mayoría corre el riesgo de incumplir las normativas aplicables.

·  Integración de la AI generativa en los sistemas y procesos existentes. Las organizaciones revelan que están experimentando problemas de compatibilidad cuando intentan combinar GenAI con sus sistemas actuales.

·  Talento y habilidades. Los departamentos de RRHH se encuentran con escasez de contrataciones adecuadas.

Como resultado, se hace evidente que, antes de adoptar medidas para hacer evolucionar los procesos internos utilizando la IA, es esencial elaborar un plan estructurado que incluya un análisis del cumplimiento de las obligaciones legales derivadas de la tecnología y de su adecuación a la cultura institucional preexistente.