GPT-3.5

GPT-3.5
Тип
АвториOpenAI[1]
Перший випуск15 березня 2022 (2022-03-15)
Нестабільний випускgpt-3.5-turbo-0125 (25 січня 2024 (2024-01-25))
Ліцензіявласницька

GPT-3.5 (англ. Generative Pre-trained Transformer 3.5) — це підклас моделей GPT-3, створених OpenAI у 2022 році.

15 березня 2022 року OpenAI зробив доступними нові версії GPT-3 та Codex у своєму API з можливостями редагування та вставки під назвами text-davinci-002 та code-davinci-002.[3] Ці моделі були описані як більш потужні, ніж попередні версії, і навчалися на даних до червня 2021 року.[4] 28 листопада 2022 року OpenAI представив text-davinci-003.[5] 30 листопада 2022 року OpenAI почав називати ці моделі такими, що належать до серії «GPT-3.5»[4], та випустив ChatGPT, який був доопрацьований на основі моделей серії GPT-3.5.[6] OpenAI не включає GPT-3.5 у GPT-3.[7]

Моделі

Існує три моделі[8]:

  • Chat:
    • gpt-3.5-turbo
  • Text completion:
    • text-davinci-002
    • text-davinci-003

GPT-3.5 with Browsing

10 квітня 2023 року OpenAI представила новий варіант своєї моделі серії GPT-3.5, відомий як GPT-3.5 with Browsing (ALPHA).[9] Ця оновлена модель була описана як така, що базується на можливостях своїх попередників «text-davinci-002» та «code-davinci-002».[10] Модель GPT-3.5 with Browsing (ALPHA) включала можливість доступу та перегляду онлайн-інформації. Це призвело до отримання точніших та актуальніших відповідей на запити користувачів.[9]

Модель GPT-3.5 with Browsing (ALPHA) навчалася на даних до вересня 2021 року, що надає їй більше інформації порівняно з попередніми моделями GPT-3.5, які навчалися на даних до червня 2021 року. Модель мала на меті надати розробникам та користувачам передовий інструмент обробки природної мови, який може ефективно отримувати та синтезувати онлайн-інформацію.[9]

Щоб забезпечити можливості перегляду вебсторінок, OpenAI реалізував новий API, який дозволяє моделі GPT-3.5 with Browsing (ALPHA) отримувати доступ до вибраних онлайн-ресурсів під час роботи.[11] Ця функція дозволяє користувачам ставити запитання або запитувати інформацію, очікуючи, що модель надасть оновлені, точні та релевантні відповіді на основі найновіших доступних їй онлайн-джерел.

27 квітня 2023 року OpenAI зробив модель GPT-3.5 with Browsing (ALPHA) загальнодоступною для користувачів GPT Plus. Це дозволило більшій кількості людей отримати доступ до її нових функцій.[11]

InstructGPT

InstructGPT — це вдосконалена версія GPT-3.5, навчена на наборі даних інструкцій, написаних людиною.[12]

Примітки

  1. Brown, Tom B.; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav; Sastry, Girish; Askell, Amanda; Agarwal, Sandhini; Herbert-Voss, Ariel; Krueger, Gretchen; Henighan, Tom; Child, Rewon; Ramesh, Aditya; Ziegler, Daniel M.; Wu, Jeffrey; Winter, Clemens; Hesse, Christopher; Chen, Mark; Sigler, Eric; Litwin, Mateusz; Gray, Scott; Chess, Benjamin; Clark, Jack; Berner, Christopher; McCandlish, Sam; Radford, Alec; Sutskever, Ilya; Amodei, Dario (28 травня 2020). Language Models are Few-Shot Learners. arXiv:2005.14165 [cs.CL]. {{cite arXiv}}: |arxiv= є обов'язковим параметром (довідка)
  2. https://news.ycombinator.com/item?id=36613413
  3. New GPT-3 Capabilities: Edit & Insert. OpenAI (англ.). 15 березня 2022. Архів оригіналу за 13 січня 2023. Процитовано 13 січня 2023.
  4. а б OpenAI API. platform.openai.com. Архів оригіналу за 20 березня 2023. Процитовано 15 березня 2023.
  5. Check out OpenAI's new text-davinci-003! Same underlying model as text-davinci-002 but more aligned. Would love to hear feedback about it! / Twitter. Архів оригіналу за 15 березня 2023. Процитовано 6 травня 2023.
  6. ChatGPT: Optimizing Language Models for Dialogue. OpenAI (англ.). 30 листопада 2022. Архів оригіналу за 30 листопада 2022. Процитовано 13 січня 2023.
  7. OpenAI API. Архів оригіналу за 17 березня 2023. Процитовано 6 травня 2023.
  8. OpenAI API. Архів оригіналу за 6 травня 2023. Процитовано 6 травня 2023.
  9. а б в tingetici (10 квітня 2023). Default (GPT-3.5) with browsing ALPHA -- NEW Model showed up just now. r/OpenAI. Архів оригіналу за 27 квітня 2023. Процитовано 27 квітня 2023.
  10. Introducing GPT-3.5 Series: text-davinci-002 and code-davinci-002 Models. OPEN AI (англ.). 15 березня 2022. Архів оригіналу за 20 березня 2023. Процитовано 27 квітня 2023.
  11. а б GPT-3.5 with Browsing (ALPHA) Now Available for GPT Plus Users. OPEN AI (англ.). 27 квітня 2023. Архів оригіналу за 20 березня 2023. Процитовано 27 квітня 2023.
  12. Gilson A, Safranek CW, Huang T, Socrates V, Chi L, Taylor RA, Chartash D (Лютий 2023). How Does ChatGPT Perform on the United States Medical Licensing Examination (USMLE)? The Implications of Large Language Models for Medical Education and Knowledge Assessment. JMIR Med Educ. 9: e45312. doi:10.2196/45312. PMC 9947764. PMID 36753318.{{cite journal}}: Обслуговування CS1: Сторінки з номером статті як номер сторінки (посилання)