OpenAI permet désormais aux développeurs d'apporter urs propres données pour personnaliser GPT-3.5 Turbo

**Anthony** · 23/08/2023, 13h13

OpenAI permet désormais aux développeurs d'apporter urs propres données pour personnaliser GPT-3.5 Turbo, afin de créer et d'exécuter des modès plus performants pour urs cas d'utilisation

s clients d'OpenAI peuvent désormais apporter des données personnalisées à la version allégée de GPT-3.5, GPT-3.5 Turbo, facilitant ainsi l'amélioration de la fiabilité du modè d'IA génératrice de texte tout en intégrant des comportements spécifiques.

OpenAI affirme que s versions affinées de GPT-3.5 peuvent égar ou même dépasser s capacités de base de GPT-4, modè phare de l'entreprise, sur "certaines tâches spécifiques".

"Depuis la sortie de GPT-3.5 Turbo, s développeurs et s entreprises ont demandé à pouvoir personnaliser modè afin de créer des expériences uniques et différenciées pour urs utilisateurs", écrit l'entreprise dans un bilt de blog. "Cette mise à jour donne aux développeurs la possibilité de personnaliser des modès plus performants pour urs cas d'utilisation et d'exécuter ces modès personnalisés à l'échel."

Grâce au réglage fin, s entreprises qui utilisent GPT-3.5 Turbo via l'API d'OpenAI peuvent faire en sorte que modè suive mieux s instructions, par exemp qu'il réponde toujours dans une langue donnée. Els peuvent égament améliorer la capacité du modè à formater s réponses de manière cohérente (par exemp, pour compléter des extraits de code), ainsi qu'affiner la "sensation" des résultats du modè, comme son ton, afin qu'il corresponde mieux à une marque ou à une voix.

En outre, réglage fin permet aux clients d'OpenAI de raccourcir urs invites textuels afin d'accélérer s appels d'API et de réduire s coûts. "s premiers testeurs ont réduit la tail des invites jusqu'à 90 % en affinant s instructions dans modè lui-même", affirme OpenAI dans bilt de blog.

réglage fin nécessite actuelment de préparer s données, de télécharger s fichiers nécessaires et de créer une tâche de réglage fin par l'intermédiaire de l'API d'OpenAI. Toutes s données de réglage fin doivent passer par une API de "modération" et un système de modération alimenté par GPT-4 pour voir si els sont en conflit avec s normes de sécurité d'OpenAI, explique l'entreprise. Mais OpenAI prévoit de lancer une interface utilisateur de réglage fin à l'avenir, avec un tabau de bord permettant de vérifier l'état des charges de travail de réglage fin en cours.

réglage fin pour GPT-3.5 Turbo est maintenant disponib, et réglage fin pour GPT-4 sera disponib cet automne. Cette mise à jour donne aux développeurs la possibilité de personnaliser des modès plus performants pour urs cas d'utilisation et d'exécuter ces modès personnalisés à grande échel. s premiers tests ont montré qu'une version affinée de GPT-3.5 Turbo peut égar, voire surpasser, s capacités de base du niveau GPT-4 pour certaines tâches précises. Comme pour toutes nos API, s données envoyées dans et hors de l'API de réglage fin sont la propriété du client et ne sont pas utilisées par OpenAI, ou toute autre organisation, pour entraîner d'autres modès.

Cas d'utilisation du réglage fin

Depuis la sortie de GPT-3.5 Turbo, s développeurs et s entreprises ont demandé à pouvoir personnaliser modè afin de créer des expériences uniques et différenciées pour urs utilisateurs. Avec ce lancement, s développeurs peuvent désormais procéder à des ajustements supervisés afin de rendre ce modè plus performant pour urs cas d'utilisation.

Dans notre version bêta privée, s clients du réglage fin ont été en mesure d'améliorer de manière significative s performances du modè dans des cas d'utilisation courants, comme par exemp

Amélioration de la dirigeabilité : réglage fin permet aux entreprises de faire en sorte que modè suive mieux s instructions, par exemp en rendant s sorties laconiques ou en répondant toujours dans une langue donnée. Par exemp, s développeurs peuvent utiliser réglage fin pour s'assurer que modè répond toujours en almand lorsqu'il est invité à utiliser cette langue.
Formatage fiab des résultats : réglage fin améliore la capacité du modè à formater s réponses de manière cohérente, un aspect crucial pour s applications exigeant un format de réponse spécifique, comme la complétion de code ou la composition d'appels d'API. Un développeur peut utiliser réglage fin pour convertir de manière plus fiab s invites de l'utilisateur en extraits JSON de haute qualité qui peuvent être utilisés avec urs propres systèmes.
Tonalité personnalisée : réglage fin est un excelnt moyen d'affiner l'aspect qualitatif des résultats du modè, comme son ton, afin qu'il corresponde mieux à la voix de la marque de l'entreprise. Une entreprise dont la voix de marque est reconnaissab peut utiliser réglage fin pour que modè soit plus cohérent avec son ton.

Outre l'amélioration des performances, réglage fin permet égament aux entreprises de raccourcir urs invites tout en garantissant des performances similaires. réglage fin avec GPT-3.5-Turbo peut égament gérer 4k tokens, soit doub de nos précédents modès affinés. s premiers testeurs ont réduit la tail des invites jusqu'à 90 % en affinant s instructions dans modè lui-même, ce qui a permis d'accélérer chaque appel à l'API et de réduire s coûts.

réglage fin est particulièrement efficace lorsqu'il est associé à d'autres techniques tels que l'ingénierie des invites, la recherche d'informations et l'appel de fonctions. Consultez notre guide sur réglage fin pour en savoir plus. La prise en charge du réglage fin avec l'appel de fonction et gpt-3.5-turbo-16k sera disponib dans courant de l'automne.

Étapes du réglage fin

Étape 1
Préparez vos données

Code : Séctionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
{
  "messages": [
    { "ro": "system", "content": "You are an assistant that occasionally misspells words" },
    { "ro": "user", "content": "Tell me a story." },
    { "ro": "assistant", "content": "One day a student went to schoool." }
  ]
}

Étape 2
Télécharger s fichiers

Code : Séctionner tout - Visualiser dans une fenêtre à part

1
2
3
4
curl -https://api.openai.com/v1/fis \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -F "purpose=fine-tune" \
  -F "fi=@path_to_your_fi"

Étape 3
Créer un travail de mise au point

Code : Séctionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
curl <a href="https://api.openai.com/v1/fine_tuning/jobs" target="_blank">https://api.openai.com/v1/fine_tuning/jobs</a> \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
  "training_fi": "TRAINING_FI_ID",
  "model": "gpt-3.5-turbo-0613",
}'

Une fois qu'un modè a terminé processus de mise au point, il peut être utilisé immédiatement en production et dispose des mêmes limites de taux partagés que modè sous-jacent.

Étape 4
Utiliser un modè affiné

Code : Séctionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
curl <a href="https://api.openai.com/v1/chat/comptions" target="_blank">https://api.openai.com/v1/chat/comptions</a> \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
  "model": "ft:gpt-3.5-turbo:org_id",
  "messages": [
    {
      "ro": "system",
      "content": "You are an assistant that occasionally misspells words"
    },
    {
      "ro": "user",
      "content": "Hello! What is fine-tuning?"
    }
  ]
}'

Nous lancerons prochainement une interface utilisateur pour réglage fin, qui permettra aux développeurs d'accéder plus faciment aux informations sur s travaux de réglage fin en cours, aux instantanés de modès terminés, et plus encore.

Sécurité

Il est très important pour nous que déploiement du réglage fin soit sûr. Pour préserver s caractéristiques de sécurité du modè par défaut tout au long du processus de réglage fin, s données d'entraînement au réglage fin passent par notre API de modération et un système de modération alimenté par GPT-4 pour détecter s données d'entraînement non sûres qui entrent en conflit avec nos normes de sécurité.

Tarification

s coûts de la mise au point sont répartis en deux catégories : coût de la formation initia et coût de l'utilisation :

Formation : 0,008 $ / 1K tokens
Coût d'utilisation : 0,012 $ / 1 000 tokens
Utilisation en sortie : 0,016 $ / 1 000 jetons

Par exemp, un travail de réglage fin gpt-3.5-turbo avec un fichier d'entraînement de 100 000 tokens, entraîné pendant 3 epochs, aurait un coût attendu de 2,40 $.

Mise à jour des modès GPT-3

En juilt 2023, nous avons annoncé que s modès de base GPT-3 originaux (ada, babbage, curie et davinci) seraient désactivés 4 janvier 2024. Aujourd'hui, nous mettons à disposition babbage-002 et davinci-002 en remplacement de ces modès, soit en tant que modès de base, soit en tant que modès affinés. s clients peuvent accéder à ces modès en interrogeant l'API Comptions.

Ces modès peuvent être affinés avec notre nouveau point d'accès à l'API /v1/fine_tuning/jobs. Ce nouveau point de terminaison offre la pagination et plus d'extensibilité pour soutenir l'évolution future de l'API de réglage fin. La transition de /v1/fine-tunes vers nouveau point de terminaison est simp et plus de détails peuvent être trouvés dans notre nouveau guide de réglage fin. Ceci rend obsolète l'ancien point de terminaison /v1/fine-tunes, qui sera désactivé 4 janvier 2024.

s prix pour s modès GPT-3 de base et fine-tuned sont s suivants :