#
¿Qué es la Llamada a Funciones?

La llamada a funciones es una forma para que un LLM realice acciones en su entorno. Fue introducida primero en GPT-4, y posteriormente fue reproducida en otros modelos.

Al igual que las herramientas de un Agente, la llamada a funciones le da al modelo la capacidad de realizar una acción en su entorno. Sin embargo, la capacidad de llamada a funciones es aprendida por el modelo, y depende menos de los prompts que otras técnicas de agentes.

Durante la Unidad 1, el Agente no aprendió a usar las Herramientas, simplemente proporcionamos la lista, y confiamos en el hecho de que el modelo era capaz de generalizar al definir un plan usando estas Herramientas.

Mientras que aquí, con la llamada a funciones, el Agente es ajustado (entrenado) para usar Herramientas.

##
¿Cómo “aprende” el modelo a realizar una acción?

En la Unidad 1, exploramos el flujo de trabajo general de un agente. Una vez que el usuario ha dado algunas herramientas al agente y le ha proporcionado una consulta, el modelo pasará por el ciclo:

1. Pensar : ¿Qué acción(es) necesito tomar para cumplir el objetivo?
2. Actuar : Formatear la acción con el parámetro correcto y detener la generación.
3. Observar : Obtener el resultado de la ejecución.

En una conversación “típica” con un modelo a través de una API, la conversación alternará entre mensajes del usuario y del asistente de esta manera:

    conversation = [
        {"role": "user", "content": "Necesito ayuda con mi pedido"},
        {"role": "assistant", "content": "Estaré encantado de ayudar. ¿Podrías proporcionar tu número de pedido?"},
        {"role": "user", "content": "Es ORDER-123"},
    ]

¡La llamada a funciones trae nuevos roles a la conversación!

1. Un nuevo rol para una Acción
2. Un nuevo rol para una Observación

Si tomamos la API de Mistral como ejemplo, se vería así:

    conversation = [
        {
            "role": "user",
            "content": "¿Cuál es el estado de mi transacción T1001?"
        },
        {
            "role": "assistant",
            "content": "",
            "function_call": {
                "name": "retrieve_payment_status",
                "arguments": "{\"transaction_id\": \"T1001\"}"
            }
        },
        {
            "role": "tool",
            "name": "retrieve_payment_status",
            "content": "{\"status\": \"Paid\"}"
        },
        {
            "role": "assistant",
            "content": "Tu transacción T1001 ha sido pagada exitosamente."
        }
    ]

> … ¿Pero dijiste que hay un nuevo rol para las llamadas a funciones?

Sí y no, en este caso y en muchas otras APIs, el modelo formatea la acción a tomar como un mensaje de “asistente”. La plantilla de chat luego representará esto como tokens especiales para la llamada a funciones.

- `[AVAILABLE_TOOLS]` – Inicio de la lista de herramientas disponibles
- `[/AVAILABLE_TOOLS]` – Fin de la lista de herramientas disponibles
- `[TOOL_CALLS]` – Hacer una llamada a una herramienta (es decir, realizar una “Acción”)
- `[TOOL_RESULTS]` – “Observar” el resultado de la acción
- `[/TOOL_RESULTS]` – Fin de la observación (es decir, el modelo puede decodificar nuevamente)

Hablaremos nuevamente sobre la llamada a funciones en este curso, pero si quieres profundizar puedes consultar esta excelente sección de documentación.

Ahora que hemos aprendido qué es la llamada a funciones y cómo funciona, vamos a agregar algunas capacidades de llamada a funciones a un modelo que aún no tiene esas capacidades: google/gemma-2-2b-it, agregando algunos nuevos tokens especiales al modelo.

Para poder hacer eso, primero necesitamos entender el fine-tuning y LoRA.

< > Update on GitHub