¿Qué es el function calling (tool use)?

Function calling: definición

Los modelos de lenguaje solo conocen su conocimiento de entrenamiento y los textos que se les entregan. Para consultar datos actuales o desencadenar acciones, necesitan herramientas. El function calling es el mecanismo para ello: los desarrolladores describen al modelo las funciones disponibles con nombre, finalidad y parámetros, normalmente como esquema JSON.

El modelo no ejecuta la función por sí mismo. Solo decide qué función con qué valores tiene sentido y devuelve una llamada estructurada. El software la comprueba, la ejecuta y devuelve el resultado. Esta separación es importante para la seguridad y el control.

Cómo transcurre una llamada

Un cliente pregunta en el chat: «¿Cuándo llegará mi pedido?». El modelo reconoce que para ello necesita la función «consultar estado del pedido» y genera la llamada con el número de pedido tomado de la conversación. La aplicación consulta el sistema de gestión de mercancías y devuelve el estado. Con eso, el modelo formula la respuesta.

Pueden utilizarse varias funciones de forma sucesiva o en paralelo. Los agentes de IA se basan en este principio. La misma técnica sirve también para obtener salidas en un formato fijo, por ejemplo campos de un correo en JSON que se escriben directamente en una base de datos. Esto evita una interpretación de texto propensa a errores.

Ejemplo práctico: un asistente para el comercio de muebles

Un comercio de muebles utiliza un asistente en su sitio web. Tiene tres funciones: comprobar la disponibilidad de un artículo, consultar el estado de un pedido y crear una solicitud de devolución de llamada en el sistema de tickets. Responde a las preguntas con datos reales de los sistemas en lugar de suposiciones. El cliente recibe una información acorde con las existencias actuales y los empleados se liberan de consultas rutinarias.

Las funciones de solo lectura se ejecutan automáticamente; la solicitud de devolución de llamada solo se crea tras la confirmación del cliente. El asistente solo ve los datos que pertenecen al cliente identificado. Cada llamada se registra para poder rastrear después lo ocurrido. Más adelante pueden añadirse nuevas funciones sin reconstruir el asistente.

Seguridad, límites y puesta en práctica

El modelo puede proporcionar parámetros erróneos o manipulados, por ejemplo cuando un tercero oculta instrucciones en las entradas mediante inyección de prompts. Por eso: validar los argumentos, aplicar los derechos del usuario correspondiente, exigir aprobación para acciones con consecuencias y limitar las llamadas. Además, las funciones deben describirse de forma clara e inequívoca.

Nano Concepts diseña funciones, interfaces y permisos de modo que los asistentes de IA accedan a sus sistemas de forma útil pero controlada. Esto incluye una división limpia de las funciones, una capa de validación entre el modelo y el sistema y pruebas con entradas típicas y deliberadamente erróneas antes de que el asistente pase a producción.

• Mantener las funciones pequeñas, con nombres claros y bien documentadas
• Comprobar los parámetros en el servidor antes de la ejecución
• Usar los derechos del usuario identificado y no derechos generales del sistema
• Hacer confirmar las acciones de escritura
• Registrar las llamadas y fijar límites