Ingeniería de prompts para reescritura de textos con ia: la experiencia de webspellchecker. Parte 2

Seguimos nuestro viaje por el fascinante mundo de la ingeniería de prompts aplicada a operaciones con texto. En nuestro último entrada del blog, nos adentramos en el universo de los LLM y exploramos algunas de las tendencias más actuales de la IA generativa. Ahora toca hablar de algo fundamental: la ingeniería de prompts. Podemos verla  como la receta secreta: el arte de enseñar a la IA a trabajar con todo tipo de textos y realizar tareas distintas.

Mientras preparábamos una nueva función de reescritura/IA generativa para WProofreader, nos topamos con varios desafíos. Los afrontamos de lleno y logramos los resultados realmente emocionantes. ¿Listos para conocerlos? Perfecto, pues exploremos juntos las maravillas de la ingeniería de prompts.

Ingeniería de prompts para distintas operaciones con textos

Hablemos primero de la transformación tradicional del texto, cuando el lenguaje se moldea para lograr una comunicación efectiva.
Desde recortar narrativas hasta ampliar oraciones, cada operación cumple un propósito específico a la hora de influir en cómo expresamos las ideas.
Compresión expansión y reescritura de texto, mejora y cambio de estilo: cada una tiene su papel único a la hora de pulir el lenguaje.

1. La compresión de texto consiste en reducir la longitud del texto y hacerlo más compacto, centrándose en la información esencial. Las mejores prácticas para la compresión de texto incluyen conservar el significado esencial, la claridad y la corrección gramatical del texto. Los editores se enfocan en la concisión, la relevancia y la claridad a la hora de revisar. Es vital no pasarse comprimiendo (el recorte óptimo de texto es del 10-30%) hasta el punto de perder información importante o de que el mensaje quede poco claro o incompleto. La formalidad original del texto debe conservarse estrictamente.
2. La expansión de texto consiste en hacer el texto más detallado y expresivo dándole profundidad al contenido existente. Se admiten adiciones creativasque aporten información nueva y valiosa, siempre dentro de los límites del prompt. Sin embargo, es importante mantener las oraciones expandidas por debajo de las 20-25 palabras para lograr una lectura óptima. Apunta a una expansión de entre el 10% y el 30% de la longitud del texto original, para sumar detalles valiosos y relevantes sin abrumar al lector con información innecesaria. Igual que con la compresión de texto, la formalidad original debe conservarse estrictamente.
3. La reescritura de texto implica reformular el contenido sin cambiar el mensaje central, enfocándose en una manera distinta de expresar la misma idea. El texto reescrito debe ser claro, gramaticalmente correcto y coherente. De ser posible, hay que optimizar buscando un equilibrio entre concisión y detalle. La longitud del texto reescrito debe ser similar al original, al igual que su formalidad.
4. La mejora de estilo es como pulir la superficie del texto, refinando su estilo sin alterar el contenido. Antes de hacer cualquier cambio, los editores identifican el objetivo principal de la mejora, ya sea claridad, brevedad, ajuste de tono, adaptación al público objetivo, mejora estilística, corrección gramatical o consistencia. El texto revisado mantiene su significado esencial mientras cumple de manera efectiva con el objetivo buscado.
5. Cambio de estilo. Implica pasar de un estilo o tono de escritura a otro dentro del mismo texto. Este cambio puede abarcar varios aspectos, incluyendo la formalidad, el tono, el vocabulario y las características lingüísticas en general. Puedes cambiar la formalidad de un texto: de formal a informal y viceversa.

Hoy en día, prácticamente todos los webinars o conferencias hablan de trucos de ingeniería de prompts. No somos la excepción y te proponemos nuestros propios consejos para crear prompts efectivos. Así que, durante nuestras sesiones de prueba utilizamos técnicas como: roles, directrices, formato, condiciones y restricciones, aspecto emocional, enfoque basado en cadenas, etc. Y los resultados pueden variar.

Roles en la ingeniería de prompts: los roles se refieren a los distintos perfiles, roles o personajes que puedes adoptar al interactuar con el modelo de lenguaje. Al enmarcar tu prompt como si fueras un personaje específico o tuvieras cierta perspectiva, puedes influir en el tono y el estilo de la respuesta generada. En corrección de textos, los roles pueden ser: editor humano, corrector, redactor publicitario, etc.

Las directrices son recomendaciones o reglas generales que los usuarios siguen a la hora de crear sus prompts. Pueden incluir sugerencias sobre cómo estructurar tu entrada, el nivel de especificidad a aportar, o el uso de ciertas palabras clave para generar los comportamientos deseados en el modelo.

El formato también es clave. La manera en que estructuras y formateas tu prompt puede influir significativamente en la respuesta del modelo. Por ejemplo, usar viñetas, numeración u otros estilos de formato ayuda a organizar la información y a conseguir respuestas más coherentes. Hemos optado por estructurar el prompt de la siguiente manera:

Un enfoque basado en cadenas consiste en aportar contexto o información adicional dentro del mismo prompt o en una serie de prompts. Partiendo de las respuestas anteriores del modelo, los usuarios pueden guiar la conversación en una dirección más coherente y con más sentido.

Estos trucos impactan un montón en la salida. En la próxima sección, te mostraremos la diferencia, y puede que te sorprenda mucho.

LLaMA vs Mistral vs Claude para la reescritura de textos

En la parte 1, analizamos distintas soluciones de IA generativa ofrecidas por nuestros competidores y descubrimos que la mayoría están construidas con los modelos ChatGPT-3,5 y -4 de OpenAI. Si bien ChatGPT parece ofrecer los resultados de mayor calidad, su infraestructura en la nube plantea riesgos de seguridad considerables, sobre todo para empresas que priorizan la seguridad, por lo que puede no ser una opción adecuada.

Además, las noticias recientes sobre los cambios en el alta dirección de OpenAI refuerzan la percepción de que el proveedor es frágil y que depender por él a largo plazo puede ser arriesgado.

Por eso, en nuestra investigación nos centramos principalmente en LLM de menor escala, que tienen menos parámetros que ChatGPT y Claude, pero que pueden implementarse en el servidor de una empresa. Los modelos que probamos son LLaMA-2-7b-chat y Mistral-7b-v0.1. Ambos tienen 7 mil millones de parámetros y están diseñados específicamente para realizar tareas en inglés.

En cambio, ChatGPT tiene 175 mil millones de parámetros, y Claude, 52 mil millones.

LLaMA y Mistral no son nuestra elección definitiva: estamos buscando un modelo multilingüe, por lo que nuestra búsqueda continúa. A continuación, mostraremos cómo LLaMA, Mistral y Claude (solo a modo de comparación) realizan una reescritura sencilla de un texto, mejorando el prompt en cada iteración a lo largo de varias rondas. Ten en cuenta que el enfoque que se presenta a continuación tiene únicamente fines educativos. Esto no revela  la versión final de los prompts que utilizaremos.

La oración de entrada será:

I hope this message finds you well

— una frase de apertura básica para un correo electrónico profesional, que hoy en día se considera un poco original.

Iteración #1 

Empezaremos con un prompt simple de una sola oración.

Prompt	Por favor, reescribe esta oración.
LLaMA	Deseándote buena salud al recibir este mensaje.
Mistral	Deseo que estés bien de salud y que este mensaje te encuentre feliz. 2. Ruego que estés bien de salud y recibas este mensaje con alegría. 3. Espero y ruego que estés bien de salud y disfrutando de este mensaje.
Claude	Confío en que este mensaje te encuentre con buena salud.
Conclusión	Como se puede ver, todas las salidas suenan un poco recargadas y robóticas, aunque el significado se mantiene.

Iteración #2 

Ahora agreguemos condiciones y requisitos.

Prompt	Por favor, reescribe la siguiente oración, asegurándote de que mantenga su significado original. La oración reescrita debe ser clara, gramaticalmente correcta y coherente. Ajusta el tono para que sea apropiado para una audiencia general y mejora su legibilidad. Asegúrate de que la salida contenga una sola oración, no varias. Si es posible, optimiza buscando un equilibrio entre concisión y detalle.
LLaMA	Espero sinceramente que, al recibir este mensaje, te encuentres bien de ánimo y de salud, y que la vida te haya estado tratando con amabilidad.
Mistral	1. Saludos de mi parte. Espero que mi mensaje te encuentre en el mejor estado de salud.<br>2. Te escribo con buena salud, espero que tú también estés bien.
Claude	Espero sinceramente que te encuentres bien al recibir este mensaje.
Conclusión	LLaMA amplió considerablemente la oración, lo cual va más allá de la consigna. La salida de Mistral suena mejor, aunque la versión B puede no ser apta para comunicación de negocios. La versión de Claude parece ser la mejor. Además, Mistral ignoró mi petición de generar una salida de una sola oración.

Iteración #3

 Juguemos con los roles en los prompts.

Prompt	Quiero que actúes como un editor. Por favor, reescribe la siguiente oración, asegurándote de que mantenga su significado esencial. La oración reescrita debe ser clara, gramaticalmente correcta y coherente. Ajusta el tono para que sea universalmente apropiado, ni demasiado formal ni demasiado casual, de modo que sea adecuado para una audiencia más amplia. Asegúrate de que la salida sea una sola oración y prioriza la claridad y la brevedad.
LLaMA	Espero que este mensaje te llegue con buena salud y buen ánimo.
Mistral	Espero que este mensaje te encuentre con buena salud.
Claude	Confío en que te encuentres bien de salud al recibir este mensaje.
Conclusión	Las oraciones reescritas por LLaMA y Claude suenan pertinentes para la comunicación empresarial, aunque pueden resultar demasiado formales para algunos casos.

Iteración #4 

Por último, mejoremos el formato.

Prompt	##rol<br>Por favor, actúa como un editor humano.<br>##tarea<br>Reescribe el texto por completo.<br>##вirectrices<br>Estilo<br>Asegúrate de que el texto mantenga su significado original. El texto reescrito debe ser claro, gramaticalmente correcto y coherente. Si es posible, optimízalo buscando un equilibrio entre concisión y detalle.<br>Longitud<br>Haz que la longitud del texto reescrito sea similar a la del original.<br>Formalidad<br>Conserva estrictamente la formalidad original del texto. Ajusta el tono para que sea apropiado para una audiencia general y mejora su legibilidad.<br>Formato<br>Entrega únicamente el texto revisado, sin explicaciones adicionales.
LLaMA	Espero que este mensaje te encuentre con buena salud.
Mistral	Espero que este mensaje te encuentre con buena salud.
Claude	Espero sinceramente que te encuentres bien al momento de recibir este mensaje.
Conclusión	Los resultados de LLaMA y Mistral parecen ser pertinentes para el caso de uso y suenan mucho mejor que sus intentos anteriores. Sin embargo, la reescritura no está completa y, para algunos usuarios, puede no ser apropiada. La versión de Claude parece ser más formal.

A partir del experimento, queda claro que, al trabajar con LLM, el resultado depende en gran medida de los prompts y de cómo se ajustan. Hay muchos trucos que se pueden utilizar, y su número sigue aumentando. Como dicen los expertos, la mejor manera de entender qué funciona y qué no es seguir experimentando.

Y eso es precisamente lo que estamos haciendo.

Próximamente: el asistente de escritura de WProofreader

¿Por qué dedicamos tanto tiempo a la ingeniería de prompts y a probar LLM? La respuesta es obvia: siguiendo la tendencia del resto del sector  del mercadotecnia digital, lanzaremos una nueva funcionalidad de reescritura/IA generativa, también conocida como el Asistente de escritura con IA 🪄 de WProofreader.

Esta función se suma al conjunto de funciones avanzadas de revisión ortográfica y gramatical que ofrece Wproofreader:

• revisión ortográfica y gramatical multilingüe impulsada por ia, con detección automática deд idioma
• autocorrección ortográfica y sugerencias de autocompletado
• guía de estilo con reglas personalizadas
• diccionarios ortográficos personalizados

Y está disponible en el SDK de WProofreader y en la extensión para navegador.

Y eso no es todo: haremos que la función de generación de texto sea multilingüe y ayudar a nuestros clientes a usar el modelo en su propia infraestructura.

En su versión MVP, esta función incluye estos prompts: acortamiento de texto (compresión), expansión de texto, reescritura de texto, mejora de estilo y cambio de estilo (de formal a informal y viceversa).

En concreto, vamos a:

• informar qué proveedor de LLM estamos utilizando, para garantizar la transparencia en los procesos de desarrollo y despliegue
• usar filtros de lenguaje no inclusivo y lenguaje ofensivo para promover la diversidad y la inclusión
• desarrollar una UI accesible para garantizar que la función sea compatible con los estándares de accesibilidad
• Cumplir con las leyes y regulaciones vigentes que rigen el uso de la IA

Mantente al tanto y prepárate para descubrir nueva funcionalidad.

En resumen

Para resumir el tema de la ingeniería de prompts:

• Hemos analizado en detalle en los detalles de cómo lograr que las IA entiendan los trucos del lenguaje y realicen todo tipo de magia con los textos. Mientras mejorábamos a la función de reescritura/IA generativa de Wproofreader, nos enfrentamos a algunos desafíos, pero logramos conseguir resultados realmente satisfactorios.
• Hablamos de compresión de texto, expansión, reescritura y mejora del estilo. Los roles, las instrucciones y el formato en los prompts del usuario son los ingredientes secretos de los prompts para operaciones con textos.
• Probamos LLaMA y Mistral en nuestro experimento de reescritura de texto para convertir el clásico “i hope this message finds you well” en darle un nuevo estilo. Ambos generaron en ocasiones textos demasiado extensos y poco naturales, pero al final generaron resultados pertinentes.
• Wproofreader se está preparando para lanzar una nuevafuncionalidad de reescritura/IA generativa. Será multilingüe, segura y responsable. Interesante, ¿verdad? Se esperan funciones como el acortamiento de texto, la expansión, la reescritura, la mejora de estilo y el cambio de estilo de formal a informal y viceversa.

Para finalizar, no te olvides: la ingeniería de prompts está en constante evolución. Mantente al tanto de la próxima entrega, y sigamos conversando. Hasta entonces, ¡celebremos por la magia de las palabras y las maravillas de la IA! 🚀✨

Post a comment