from litellm import completion
resp = completion(
model="gpt-4o-mini", # അല്ലെങ്കിൽ "anthropic/claude-3-5-sonnet", "mistral/mistral-large"
messages=.
---
## സ്ട്രീമിംഗ്, ടൂളുകൾ, JSON മോഡ്
### സ്ട്രീമിംഗ് പ്രതികരണങ്ങൾ
```python
from litellm import completion
for chunk in completion(
model="gpt-4o-mini",
messages=.
### ചെലവും ടോക്കൺ ഉപയോഗവും
LiteLLM ഓരോ അഭ്യർത്ഥനയ്ക്കും, മോഡലിനും, പ്രൊജക്ടിനും ടോക്കൺ ഉപയോഗവും ചെലവുകളും ട്രാക്ക് ചെയ്യാൻ കഴിയും. പ്രോക്സി ഉപയോഗിച്ച് ഉപയോഗം ലോഗുകളിലേക്കും ഡാഷ്ബോർഡുകളിലേക്കും ബില്ലിംഗ് സിങ്കിലേക്കും എക്സ്പോർട്ട് ചെയ്യാം. വ്യത്യസ്ത വില políticas ഉള്ള വിൽപനക്കാരെ ഒരുമിപ്പിക്കുമ്പോൾ ഇത് അനിവാര്യമാണ്.

from openai import OpenAI
client = OpenAI(base_url=" api_key="svc-app-123")
resp = client.chat.completions.create(
model="gpt-4o-mini",
messages=.