Камрады, есть идея поднять ИИ стационарно. Хочу обсудить сборку под это дело с учетом масштабирован - Железо и Техника

Камрады, есть идея поднять ИИ стационарно. Хочу обсудить сборку под это дело с учетом масштабирован 2 фев, 04:48 7244137 В конец треда | Веб

Камрады, есть идея поднять ИИ стационарно.
Хочу обсудить сборку под это дело с учетом масштабирования.
Итак мы имеем:
1. https://www.dns-shop.ru/product/928b0884c0ce3330/blok-pitania-exegate-80-bronze-600pph-ex280578rus-oem-cernyj
2. https://www.dns-shop.ru/product/922b152b72733332/operativnaa-pamat-apacer-el16g21gsh-16-gb
3. https://www.dns-shop.ru/product/4202bd74ae7eed20/kuler-dla-processora-id-cooling-se-903-xt-black-se-903-xt-black
4. https://www.dns-shop.ru/product/0a2114a7fcc9ed20/processor-intel-core-i5-12400f-oem
5. https://www.dns-shop.ru/product/ef42e95e5af71b80/videokarta-palit-geforce-rtx-3060-dual-lhr-ne63060019k9-190ad
Сборка без дисков, но это тоже обсуждается... Думаю запилить туда SAS-контроллер...
Мать с поддержкой DDR4 и DDR5
Мнения? Предложения?

Ответы252335 410800

sage 2 2 фев, 05:07 7244139

>поднять ИИ стационарно

>3060 в количестве одной штуки

Зачем, а главное нахуя? Генерацию картинок можно поручить арендованному за несколько баксов в час серваку с пачкой ртх4090, а локальный чатбот с такими мощностями будет глупее даже яндексовской алисы.

Ответы244451 252631 252688

3 2 фев, 14:31 7244451

>>244139

>арендованному

Пошел-ка ты нахуй, дружок

Ответы251090

4 7 фев, 11:07 7251090

>>244451
Аргументы уровня /hw/
Он тебе так-то базу говорит. Поднимать отдельный сервак ради нейросети с 3060 - идиотия.

Ответы252060

5 8 фев, 05:04 7252060

>>251090
Так в сборке она присутсвует...
Мне нужно голос в текст - обработка - выдача текса и в голос

Ответы252336

6 8 фев, 12:24 7252335

>>244137 (OP)

> 12 ГБ GDDR6

ahah

> Мнения? Предложения?

тебе правильно сказали про аренду. хочешь на локалхосте гонять лламы - раскошеливайся на 2 видюхи по 24 гига

7 8 фев, 12:25 7252336

>>252060
хотя хуй знает, для такой задачи возможно 12 гигов и хватит. для чат-бота и генерации картинок это ПИЗДЕЦ как мало.

Ответы252375

8 8 фев, 13:06 7252375

>>252336
В том то и дело, что мне картинки нахер не нужны... Чат бот с функцией озвучки...

Ответы252408

9 8 фев, 13:46 7252408

>>252375

> Чат бот

> > раскошеливайся на 2 видюхи по 24 гига

Ответы252623

10 8 фев, 17:25 7252623

>>252408
Ты с ДНСа чтоле? Может тогда пойдешь балонкам жопы нюхать, а то тут серьезные вещи обсуждают....

Ответы252631

sage 11 8 фев, 17:37 7252631

>>252623
во-первых, пошёл нахуй.
во-вторых, тут >>244139 всё ответили.

Ответы252657

12 8 фев, 18:00 7252657

>>252631
Ебать... Обидели мышку - насрали в норку... А есть чо по существу или ты опять тред жопой прочитал?

Ответы252688

sage 13 8 фев, 18:23 7252688

>>252657
по существу всё написано тут: >>244139

Ответы252735 410353

14 8 фев, 19:01 7252735

>>252688
Локально! Это важно ибо данный ИИ будет работать с персональными данными. 152ФЗ покури знаток. Кртинки мне нахуй не нужны.
голос2текст - обработка - текст2голос...

Ответы414817

15 8 июня, 18:41 7410353

>>252688
Так ты же блядь.
>>252688
Сама иди туда же.

16 9 июня, 07:08 7410800

>>244137 (OP)

>идея поднять ИИ стационарно

Какого ИИ, какие модели, что ты хочешь получить?

>без дисков, Думаю запилить туда SAS-контроллер

Нахуя?

17 13 июня, 12:26 7414817

>>252735
Это чатбот, к которому прикрутили распознавалку голоса и диктора? Если да, то ресурсоёмкая задача. Я бы начал думать где достать хотя бы 48Гб GDDR6. Но это прям ниже некуда падать, чтобы всё работало стабильно, но периодически будет выдавать бред и даже намешивать разные языки на выходе. Твой идеал вкорячить в твою 3060 второй видеочип, заставить корректно работать с имеющейся шиной и напаять на неё 96Гб GDDR6. Правда точно не помню какое количество видеопамяти этот чип в состоянии адресовать. Если мало - то лучше приобрести 2-4 новых видеокарты по 24гб. Или попробовать запустить всё это на ryzen ai 395. Это проц может использовать оперативку вместо видеопамяти, а адресовать он может до 128гб. Крч надо пробовать. Но предложенный тобой вариант самый ненадежный и самый дорогой из всех возможных, учитывая насколько сильно придется переделать 3060. Такие дела.

Обновить тред