InstructGPT

InstructGPT - це вдосконалена версія OpenAI API, яка працює на основі мовних моделей GPT-3. Ці моделі використовують текстові вказівки для виконання завдань природною мовою. Незважаючи на це, ці ж моделі можуть також виводити неправдивий, токсичний або образливий контент, оскільки вони навчаються передбачати наступне слово на основі великого набору даних онлайн-текстів, а не виконувати потрібне мовне завдання. Моделі InstructGPT краще дотримуються інструкцій та створюють менше умисно неправдивого контенту, а також проявляють менший рівень токсичності. Незважаючи на те, що у моделей InstructGPT значно менше параметрів, ніж у моделей GPT-3 (100 разів менше параметрів), наші маркери віддають перевагу виходам від меншої моделі.

Джерело: https://openai.com/blog/instruction-following/#guide