Les appels aux tools ne fonctionnent pas

[QuentinFuxa]

Bonjour,
Merci pour ce projet.

Je cherche à construire un RAG sur des docs internes. Je tente d'utiliser des outils, mais ça ne fonctionne pas. J'ai testé ce script avec les 4 modèles :

• neuralmagic/Meta-Llama-3.1-70B-Instruct-FP8
• meta-llama/Llama-3.1-8B-Instruct
• PleIAs/Cassandre-RAG
• AgentPublic/llama3-instruct-guillaumetell

from openai import OpenAI

base_url = "https://albert.api.etalab.gouv.fr/v1"

client = OpenAI(base_url=base_url, api_key=api_key)

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the current weather in a given location",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA"
                    },
                    "unit": {
                        "type": "string",
                        "enum": ["celsius", "fahrenheit"],
                        "description": "The temperature unit to use"
                    }
                },
                "required": ["location"]
            }
        }
    }
]

data = {
    "model": "meta-llama/Llama-3.1-8B-Instruct",
    "messages": [{"role": "user", "content": "Quel temps fait-il à Paris?"}],
    "tools": tools,
    "stream": False,
    "n": 1,
}

response = client.chat.completions.create(**data)
print(response.choices[0].message.content)

if hasattr(response.choices[0].message, 'tool_calls') and response.choices[0].message.tool_calls:
    print("Tool calls:", response.choices[0].message.tool_calls)
else:
    print("No tool calls in the response.")

J'obtiens pour chaque modèle "No tool calls in the response.". Bloquez vous l'utilisation d'outils de votre côté ? Merci