Jump to content

Как создать GPT-2 с нуля, подробная инструкция от соучредителя OpenAI Андрея Карпаты


Recommended Posts

  • Moderator

Подробная видеоинструкция от соучредителя OpenAI Андрея Карпаты о том, как создать GPT-2 с нуля на Python!

Мы воспроизводим GPT-2 (124 М) с нуля. В этом видео описан весь процесс: сначала мы создаем сеть GPT-2, затем оптимизируем ее обучение, чтобы оно было действительно быстрым, затем настраиваем тренировочный цикл в соответствии со статьями GPT-2 и GPT-3 и их гиперпараметрами, затем запускаем и возвращаемся на следующее утро, чтобы ознакомиться с нашими результатами.

 

 

Вы можете рискнуть и создать свою нейросеть (если вы хорошо знаете Python). Возможно вы станете конкурентом компании OpenAI 🤣

  • Like 3

image.png.9d5b4205072e7e483a6f7d59aebe58e3.pngimage.pngimage.png.401b8a419d2091e7d0b7f9d60646a724.png

Link to comment
Share on other sites

Описание содержания: В видеоинструкции Андрея Карпаты, соучредителя OpenAI, описывается процесс создания модели GPT-2 с нуля на языке программирования Python. Автор шаг за шагом демонстрирует создание сети GPT-2, оптимизацию обучения, настройку тренировочного цикла в соответствии с гиперпараметрами GPT-2 и GPT-3, а также запуск и проверку результатов. Пользователям, хорошо знакомым с Python, предлагается создать свою нейросеть и даже стать конкурентом OpenAI.
Link to comment
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...