En los últimos seis meses, las empresas han pasado de experimentar una dulce luna de miel con los modelos de IA Generativa, como ChatGPT o Google Bard, al más abrupto de los divorcios. Y es que aunque desde el principios han reconocido sus inmensas posibilidades y cómo puede ayudar a sus empleados a ser más productivos y ganar en competitividad, con el paso del tiempo también han emergido unos cuantos riesgos.
En el mejor de los escenarios, la IA ha hecho posible que las personas completen sus tareas diarias con más facilidad, e incluso reinventen la forma de trabajar en algunos aspectos. Sin embargo, en el peor de las casos, la IA puede convertirse en una fuente de desinformación, generar contenido dañino o discriminatorio y presentar riesgos tanto de seguridad como de privacidad.
Esto ha provocado, según un reciente estudio publicado por BlackBerry, que el 75% de las empresas estén implementando o considerando implementar medidas que limiten o prohíben por completo el uso de ChatGPT y otros algoritmos de IA generativa en su espacio de trabajo. Para llegar a esta conclusión, la multinacional ha entrevistado a más de 2.000 managers de TI en Australia, Japón, Francia, Alemania, Canadá, Países Bajos, Estados Unidos y Reino Unido.
Para prácticamente todos los encuestados, los riesgos asociados con la privacidad y la seguridad de los datos de su organización ha sido el motivo determinante a la hora de limitar el uso de estas plataformas. Además, un 83% ha expresado su preocupación sobre cómo la falta de seguridad de estos algoritmos, puede afectar a la seguridad de otras aplicaciones de su entorno de TI.
Sin embargo, mientras que el 80 % señaló que estaba dentro de los derechos de una organización controlar las aplicaciones que los empleados pueden utilizar para realizar su trabajo, un 75% también considera que algunas de estas medidas pueden mostrar un control excesivo sobre lo que los empleados pueden hacer con sus propios dispositivos, por ejemplo en escenarios BYOD o de teletrabajo.
Dejando a un lado la preocupación por la seguridad, la mayoría de los encuestados (55%) no duda en reconocer sin embargo, las oportunidades que la IA generativa puede ofrecer, como una mayor eficiencia, creatividad o innovación para la empresa. Por otro lado, casi el 81 % también estuvo de acuerdo en que bien utilizada, la IA generativa podría aprovecharse para mejorar la postura defensiva de la organización.
Para el director de seguridad de BlackBerry, Shishir Singh, no tiene sentido prohibir cualquier tipo de algoritmo de IA Generativa, ya que supone renunciar de facto a los beneficios comerciales que puede aportar. Lo que deberían hacer, señala, es buscar innovar con la IA generativa de “tipo empresarial», centrándose en el valor que aportan, y tener precaución al tratar con herramientas de IA generativa orientadas al mercado de consumo y que pueden no ser tan seguras.
La entrada El 75% de las empresas se plantea prohibir el uso de la IA Generativa es original de MuySeguridad. Seguridad informática.
