Saltar al contenido principal

Documentation Index

Fetch the complete documentation index at: https://docs.aihubmix.com/llms.txt

Use this file to discover all available pages before exploring further.

​
1. Uso

En la tarea de completado FIM (Fill In the Middle), los usuarios introducen el contenido del prefijo y el sufijo que quieren conservar, y el modelo genera la parte intermedia que falta basándose en esas indicaciones. Este método de completado es habitual en aplicaciones como el autocompletado de código o la generación de texto intermedio.

​
2. Formato de los datos

En la interfaz chat/completions, basta con establecer el model id como el ID del modelo en la Galería de modelos, disponible en la esquina superior derecha de la tarjeta del módulo. 
{ 
    "model": "model id",
    "messages": "prompt",
    "params": "params",
    "extra_body": {"prefix":"prefix content", "suffix":"optional suffix content"}
}
En la interfaz completions: 
{
    "model": "model info",
    "prompt": "prompt",
    "suffix": "prompt"
}

​
3. Ejemplo

​
3.1 Uso del completado FIM basado en la interfaz chat.completions de OpenAI:

from openai import OpenAI

client = OpenAI(
    api_key="AIHUBMIX_API_KEY", # Replace with the key you generated in AiHubMix
    base_url="https://aihubmix.com/v1"
)

messages = [
    {"role": "user", "content": "Please write a sum function code"},
]

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=messages,
    extra_body={
            "prefix": f"""
def sum_numbers(numbers):
    # If the list is empty, return 0
    if not numbers:
        return 0
""",
            "suffix": f"""
# Run Test
numbers = [1, 2, 3, 4, 5]
result = sum_numbers(numbers)
print("Sum of numbers:", result)
"""
    },
    stream=True,
    max_tokens=4096
)

for chunk in response:
    if chunk.choices and len(chunk.choices) > 0 and chunk.choices[0].delta.content is not None:
        print(chunk.choices[0].delta.content, end='')

​
3.2 Completado FIM basado en la API de Completions de OpenAI:


client = OpenAI(
    api_key="Aihubmix APIKEY", 
    base_url="https://aihubmix.com/v1"
)

response = client.completions.create(
    model="deepseek-ai/DeepSeek-V2.5",
    prompt=f"""
def quick_sort(arr):
   # Basic situation: if the array length is less than or equal to 1, return the array
    if len(arr) <= 1:
        return arr
    else:
""",
    suffix=f"""
# Test quick_sort function
arr = [3, 6, 8, 10, 1, 2, 1]
sorted_arr = quick_sort(arr)
print("Sorted array:", sorted_arr)
""",
    stream=True,
    max_tokens=4096
)

for chunk in response:
    print(chunk.choices[0].text, end='')
Última actualización: 2026-06-01