Índice
Desde su lanzamiento en noviembre de 2022, el ChatGPT para empresas se ha convertido en el emblema de la IA a ojos del gran público. Extremadamente popular, se calcula que contaba con más de 170 millones de usuarios activos en abril de 2023.
En enero de este año, la cifra era de 100 millones. Se dice que el sitio web de OpenAI, la empresa que está detrás de esta tecnología, recibe alrededor de 1.500 millones de visitas al mes.
Lo menos que podemos decir es que los agentes conversacionales han generado una gran expectación, también entre los profesionales. Pero como cualquier servicio basado en la IA, su uso plantea una serie de interrogantes, sobre todo en términos de ética y seguridad de la información:
- ¿Cómo puede integrarse y utilizarse Chat GPT para empresas?
- ¿Cuáles son sus usos?
- ¿Cuáles son los riesgos?
- ¿Existe un marco jurídico específico?
Empecemos por definir la herramienta desarrollada por OpenAI.
¿Qué es ChatGPT y en qué consiste?
El ChatGPT para empresas es un modelo de inteligencia artificial con capacidad para comprender y generar lenguaje natural. Este programa informático desarrollado por OpenAI se ofrece en forma de agente conversacional con el que el usuario puede interactuar por escrito mediante un comando o petición denominado "prompt ChatGPT", de ahí el nombre ChatGPT, que se desglosa de la siguiente manera:
"Chat" para la interfaz conversacional utilizada para interactuar con la herramienta y "GPT" por "Generative Pre-trained Transformer" (Transformador Generativo Preentrenado). Este transformador es el motor que permite a la máquina generar contenidos a partir de las solicitudes que se le presentan. Para ello, se ha entrenado sobre un corpus gigantesco de datos procedentes de la web. Se calcula que este corpus contiene al menos 300.000 millones de palabras.
Uso de ChatGPT para empresas
El éxito del chatbot se explica por su excelente rendimiento en términos de generación de texto. La herramienta es capaz de "entender" y generar contenidos estructurados sin el más mínimo error ortográfico o gramatical. A continuación se muestran algunos ejemplos de cómo ChatGPT puede ser utilizado en los negocios:
- Creación de contenidos publicitarios o de marketing.
- Automatización de la producción de plantillas de mensajes para la prospección comercial.
- Sentiment analysis a través del texto para analizar CV, transcripciones de conversaciones con clientes, etc.
- Generar contenidos para los equipos de asistencia (artículos, guías, preguntas frecuentes, etc.).
- Sintetizar información (resumir transcripciones de reuniones, artículos u otros textos).
- Traducción a varios idiomas. ChatGPT admite actualmente unos cincuenta idiomas.
- Generación o corrección de código para acelerar los procesos de desarrollo.
- Moderación de contenidos
También puedes integrar la API de Chat GPT para empresas en tus herramientas o productos para tus clientes. En general, la solución de OpenAI puede servir para aliviar el bloqueo del escritor o para ayudarle con tareas tediosas y que requieren mucho tiempo, como traducir o corregir líneas de código. Sin embargo, por muy potente que sea, ChatGPT no es omnisciente y no puede hacerlo todo, sobre todo porque existen riesgos.
¿Cuáles son los riesgos de utilizar ChatGPT en la empresa?
En el momento de redactar este informe, ChatGPT sólo lleva unos meses utilizándose de forma generalizada. Eso es todo lo que han necesitado los ciberdelincuentes para utilizarlo de forma fraudulenta y, en algunos casos, peligrosa.
Los chatbots pueden utilizarse indebidamente para generar contenidos a gran escala con el fin de generar información falsa masiva, spam u opiniones falsas en Internet. Pero el riesgo de la desinformación no es el único contra el que deben protegerse las empresas.
Confidencialidad y seguridad de los datos
¿Qué ocurre si un empleado comparte datos confidenciales con ChatGPT al interactuar con la IA?
OpenAI ofrece dos formas de utilizar ChatGPT:
- A través de la aplicación web o móvil
- A través de la API
La empresa intenta tranquilizar explicando que sus modelos no se entrenan con los datos enviados a través de sus aplicaciones web e iOS (presumiblemente también Android), cuando el historial de chat está desactivado.
Lo mismo se aplica a los datos enviados a través de la API después del 1 de marzo de 2023 (a menos que hayas elegido explícitamente esta opción). En teoría, si no quieres que OpenAI comparta tus datos o los utilice para entrenar sus modelos, simplemente desactiva el historial en los ajustes de la aplicación ChatGPT y comprueba en los ajustes de la API que no compartes tus datos.
Cabe señalar que es posible utilizar la API para entrenar uno mismo a ChatGPT para que realice tareas más específicas para su organización a partir de los datos capturados por ésta.
También en este caso, OpenAI señala que los datos y los nuevos modelos derivados de ellos no son utilizados por la empresa ni por otras organizaciones. Sólo su organización tiene acceso a ellos y puede modificarlos o eliminarlos. No obstante, Open AI conserva la propiedad de estos modelos denominados "refinados".
Por último, la empresa le informa de que es posible activar la Retención Cero de Datos, de modo que los datos enviados como entrada y los datos generados no se almacenen. Sin embargo, la empresa explica que es posible que se le pidan requisitos adicionales.
¿Qué requisitos adicionales? No los menciona en su última política de privacidad para su API de 21 de julio de 2023. Hay que tener en cuenta que cuando se valida la ZDR, aunque los datos no se almacenen, pueden ser procesados por los clasificadores de seguridad de openAI.
Open AI ofrece ahora un formulario que permite solicitar a la empresa que elimine los datos para cumplir con el derecho a la supresión de datos, artículo 17 del Reglamento General de Protección de Datos (RGPD).
¿Qué ocurre con los derechos de autor y la propiedad intelectual?
En el momento de redactar este documento, no es posible saber si las respuestas generadas por la IA proceden de contenidos protegidos por derechos de autor. La IA no cita sus fuentes. Cabe señalar que, como herramienta, ChatGPT no es una persona y, por tanto, no puede acogerse a derechos de autor.
OpenAI se protege de posibles abusos explicando que el contenido co-creado con la IA sólo puede atribuirse a la persona o empresa que lo co-creó y desea publicarlo.
Por lo tanto, corresponde al usuario asegurarse de que las respuestas proporcionadas no infringen los derechos de propiedad intelectual.
Sesgos
Reducir el sesgo es, sin duda, uno de los mayores retos a los que se enfrenta la IA generativa. Aunque se han logrado avances significativos, hay que decir que ChatGPT y sus equivalentes siguen teniendo enormes carencias en este ámbito.
En efecto, estos modelos de IA no siempre tienen la capacidad de captar los matices de las opiniones humanas. Es más, pueden reflejar las opiniones difundidas en el contenido que les sirve de corpus y perder neutralidad en sus respuestas.
Respuestas aproximadas o falsas
Las respuestas proporcionadas por ChatGPT parecen estar bien estructuradas y sin la menor falta de ortografía.
Sin embargo, si se mira más de cerca, ChatGPT y sus colaboradores pueden confundirse y dar respuestas aproximadas, sobre todo cuando se trata de noticias recientes o de temas específicos.
Las respuestas incorrectas también pueden explicarse por indicaciones demasiado breves, insuficientemente contextualizadas y ambiguas. En muchos casos, ChatGPT es incapaz de responder correctamente simplemente porque no tiene acceso a estos datos, ya que no ha sido entrenado con un corpus suficientemente relevante para esta pregunta.
¿Cuál es el marco jurídico de ChatGPT?
Como todas las empresas susceptibles de manejar datos personales, ChatGPT está sujeta a normativas como el RGPD, la CCPA (California Consumer Privacy Act) y la HIPAA (Health Insurance Portability and Accountability Act), por citar sólo algunas. Sin embargo, las tecnologías de inteligencia artificial evolucionan más rápido que las leyes.
En abril de 2021, el parlamento europeo sentó las primeras bases de su marco regulador de la IA al publicar normas basadas en diferentes niveles de riesgo (alto, inaceptable, limitado). Sin embargo, en lo que respecta a la IA generativa, por el momento el marco es bastante ligero. El Parlamento Europeo estipula que debe cumplir requisitos de transparencia:
- indicar que el contenido ha sido generado por IA
- diseñar el modelo para evitar que genere contenidos ilegales
- publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento
¿Cómo puede integrarse ChatGPT en mi organización?
Como hemos visto antes en este artículo, ChatGPT está a disposición de los profesionales de diversas formas.
Medidas a tomar
Tanto si eliges la aplicación como la API, deberás adoptar un enfoque meticuloso para implantarla correctamente en tus equipos y supervisar su uso. He aquí algunos consejos que puedes utilizar para integrar ChatGPT con éxito:
- Define claramente el ámbito: Es crucial definir el ámbito de ChatGPT y los casos de uso para los que utilizarás la herramienta. ¿A qué departamentos de tu empresa afecta? ¿Para qué fines utilizarás Chat GPT para empresas? ¿Para traducción, análisis, creación de artículos?
- Para aprovechar todo el potencial de la solución OpenAI y proteger tus datos, te recomendamos que utilices la API. Gracias a la API, tú mismo podrás entrenar a ChatGPT en un entorno particionado proporcionándole el corpus que elijas (documentos, interacciones con clientes, artículos de soporte, contratos, etc.).
- Al final de esta fase de formación, tendrás que establecer tus salvaguardas estableciendo directrices explícitas sobre las preguntas y cuestiones que ChatGPT para empresas puede y no puede tratar, para evitar cualquier problema potencial en términos de ética y protección de la privacidad.
- Por último, apoyate en todos tus colaboradores para recoger el mayor número posible de comentarios y perfeccionar continuamente el modelo.
¿Y por qué no utilizar ChatGPT indirectamente?
La solución de OpenAI puede encontrarse en un gran número de aplicaciones y extensiones para particulares y empresas. No es raro encontrar algunas de sus funciones en soluciones de terceros.
Es el caso de Empower, la solución de análisis conversacional de Ringover, que utiliza la API para resumir las transcripciones de las llamadas. De este modo, podrás acceder a la información clave de cada interacción con tus clientes, clientes potenciales o socios sin tener que escuchar estas llamadas en su totalidad.
Echa un vistazo a las demás funciones de Empower, la nueva herramienta de sales enablement:
Obviamente, estos datos están protegidos y no se comparten con OpenAI. Sin embargo, siempre es una buena idea estar tranquilo sobre la protección de datos sensibles, por lo que si utilizas un software que depende de ChatGPT para algunas de sus funciones, ponte en contacto con el proveedor para averiguar cómo se almacena y maneja tu información.
Para obtener más información sobre cómo puedes aprovechar la potencia de Empower y ChatGPT en tu empresa, ponte en contacto con nuestros expertos o realiza una prueba gratuita para descubrir por ti mismo todas las ventajas asociadas a esta nueva tecnología.
FAQs sobre chat gpt para empresas
¿Es fiable ChatGPT?
Las respuestas dadas por la aplicación ChatGPT no siempre son fiables en la medida en que, a pesar de su inmensa base de conocimientos, la herramienta no es omnisciente. Además, ha sido entrenada sobre un corpus cuyos elementos más recientes se remontan a 2021.
La herramienta puede responder de forma inexacta o incluso inadecuada en algunos casos. La calidad de las respuestas depende sobre todo del corpus sobre el que se ha entrenado el modelo. Por tanto, si entrenas ChatGPT con tus propios datos a través de la API, asegúrate de alimentarlo con información fiable que se ajuste a los valores de tu empresa.
¿Existe algún peligro en ChatGPT?
Como ocurre con la mayoría de las aplicaciones de IA generativa, es evidente que existe un peligro asociado a ChatGPT. Aunque se han establecido salvaguardias, y a pesar de las numerosas actualizaciones, ChatGPT puede utilizarse indebidamente para generar información engañosa o inexacta. También son posibles los sesgos, que podrían tener graves consecuencias, incluso a gran escala, sobre todo en ámbitos como la salud, la política y las finanzas. Cabe señalar que, en algunos casos, la inteligencia artificial es incapaz de distinguir entre información privada y pública, lo que representa un riesgo para la privacidad. Por eso es vital supervisar cuidadosamente la integración de ChatGPT y asegurarse de que el modelo se basa en datos pertinentes y fiables que respetan los valores y las políticas de la empresa.
