Робота ChatGPT коштує понад $700 000 на день

За словами аналітиків The Information, робота ChatGPT може коштувати OpenAI до $700 000 на день. Як передає Business Insider, такі витрати пов’язані з тим, що ChatGPT потребує величезної обчислювальної потужності на дорогих серверах, щоб відповідати на запити. Щоб зекономити гроші Microsoft вже навіть розробляє власні чіпи для навчання ШІ.

• Використання ChatGPT для написання листів, створення планів уроків і розвитку вашого профілю може коштувати OpenAI до $700 000 на день через дорогу технологічну інфраструктуру, на якій працює штучний інтелект.
• Це тому, що ChatGPT потребує величезної обчислювальної потужності для розрахунку відповідей на основі підказок користувача.
• Ділан Пател, головний аналітик дослідницької фірми SemiAnalysis. сказав, що зараз, ймовірно, обслуговування ChatGPT може коштувати навіть дорожче, оскільки його початкова оцінка витрат базується на моделі GPT-3 OpenAI. А GPT-4 — остання модель компанії — ще дорожча в експлуатації.
• Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати або «витрати на висновки», набагато перевищують витрати на навчання при розгортанні моделі в будь-якому розумному масштабі.
• Прагнучи знизити вартість запуску генеративних моделей штучного інтелекту, Microsoft розробляє чіп штучного інтелекту під назвою Athena. Проект, який стартував у 2019 році, з’явився через кілька років після того, як Microsoft уклала угоду з OpenAI на $1 млрд, яка вимагала від OpenAI запускати свої моделі виключно на хмарних серверах Microsoft Azure.
• Майже чотири роки потому понад 300 співробітників Microsoft працюють над чіпом. Чіп може бути випущений для внутрішнього використання Microsoft і OpenAI вже наступного, 2024 року.