Это копия, сохраненная 18 сентября в 19:16.
Скачать тред: только с превью, с превью и прикрепленными файлами.
Второй вариант может долго скачиваться. Файлы будут только в живых или недавно утонувших тредах. Подробнее
Если вам полезен архив М.Двача, пожертвуйте на оплату сервера.
Прошлый тонет тут:
https://2ch.hk/b/res/310485020 (

Type 0.
>Как обучить модель выдавать определённого персонажа?
Ты уже знаешь, что можно использовать готовые лоры на персонажей? Гуглишь "имя чара + lora" и вставляешь в папку своей сетки.
А если хочешь всё же обучить, то тебе надо создать, опять же, свою лору для выбранного чекпоинта - гугли "lora training guide".
Тебе потребуется датасет - набор фотографий 512512 или 10241024 равномерных со всех ракурсов и тому подобное, там много подводных камней.
>Аноним
>18/09/24 Срд 06:21:02
>№
>310507941
>78Кб, 640x640
>
>>>07801 (OP) (OP)
>Суисейсеки кукла анал, все остальное не важно.
Мне не обязательно с вайфу контент, но есть некоторые критерии, возможно это будет непросто...
> Буквально останавливаешь гражданскую войну и садишь стороны за стол переговоров
> ой мнямс пук а чтобы подписать мирный договор надо 67 делегатов за
> Ой пук мнямс за проголосовало только 65
> Город на 50к ебал взрывается из за двух тупорылых пидоров
> Недовольно бугуртишь

Давай немножечко с драконихой, с разными панцу,(и может разным нарядом) чтоб и хвостик и жопку было видно, ну можно и спереди
Ножки Азулы


>Аноним
>18/09/24 Срд 06:41:45
>№
>310508159
>27
>87Кб, 640x640
>
>Эту надо с недовольным angry лицом. Полуголую чтобы грудь и писечку видно было .
Прошу копро с Геншином.
дальше будем поисковые запросы заказывать ?
А на каком сайте генеришь?
Да будем заказывать СВИНКУ кал цоператор база ;)

Да должна но мне похуй свинку ебаная.
Двачую.
Жаль...
На куколд не стоит;)
Бамп

В прямом.
Че, Аватарки опять засрали нейродегенеративный фап тред?
Да, похоже, калотарки хуже пидорасовно почему дегенеративный то, хочешь дрочить на 3д, делай тред свой, пожалуйста
месяц
но теперь я устал от ИИ арта и возьму перерыв, вернусь к додзям
прошелся по всем своим фетишам
советую каждому попробовать, если есть видеокарта

можно даже делать прозрачные или почти прозрачные фоны
Давай Кагую Саму, естественно чтобы было видно pussy.
Генерит*, т9
Так я же ещё не объяснил его...
Короче - можешь сделать что-то похожее вот на это - (пикрилы). На первом пике лучше всего показано. А именно: место, ракурс, поза. Но само шибари не очень сделано, лучше как на пик 3. На пик 4 ракурс идеальный.

Он умолчал что нужна мощная видеокарта, для XL и поней от 4060 и выше, можно старые типо 3070 или 3080, желательно тиайки на 12-16 гигов
Реквестирую кошкодевочку в жанре ear fuck, но чтобы не кошку ебали в ухо, а кошка своим ухом находясь сверху трахала член
Но ведь это не так, можно даже в 6гб памяти запихнуть модели с подгрузкой из оперативки, просто дольше будет генерация идти.
скорее всего, слышал истории от людей, которые вполне себе генерили на 6 гигах с форжем
Низко кланяюсь
Давай минет от Дельты из Nikke
-Понадобится веб интерфейс и модель
-Веб интерфейс forge, качаем и извлекаем архив https://github.com/lllyasviel/stable-diffusion-webui-forge/releases/download/latest/webui_forge_cu121_torch231.7z
-запускаем update.bat, ждем
-Далее нужно зарегистрироваться на https://civitai.com/
-для начала качаем модель https://civitai.com/models/288584?modelVersionId=324524, запихиваем в models/StableDiffusion
-качаем вот этот файл и пихаем в папку vae https://huggingface.co/stabilityai/sdxl-vae/blob/main/sdxl_vae.safetensors
-запускаем run.bat, ждем пока оно скачает необходимые файлы и откроется веб интерфейс по адресу http://127.0.0.1:7860/
В веб интерфейсе ставим одно из следующих разрешений:
640 x 1536: 10:24 or 5:12
768 x 1344: 16:28 or 4:7
832 x 1216: 13:19
896 x 1152: 14:18 or 7:9
1024 x 1024: 1:1
1152 x 896: 18:14 or 9:7
1216 x 832: 19:13
1344 x 768: 21:12 or 7:4
1536 x 640: 24:10 or 12:5
Я пользуюсь 1152 x 896 большую часть времени. Выбираем нашу модель, выбираем vae, Sampling method ставим euler a, количество шагов от 20 до 30, Schedule type авто, в настройках находишь clip skip и ставишь на 2.
Каждый промпт начинаешь с score_9,score_8_up, score_7_up
негативный промт с score_6, score_5, score_4, source_cartoon, 3d, text, blurry, watermark, censorship, bad anatomy, bad hands,
Далее в промт можно или полностью описывать тегами с гелбуры или сначала описывать картинку нормально естественным языком, а потом добавлять теги с данбуры. Можно указывать определенных художников для копирования их стиля. добавляешь by имяхудожника в начало промта. Промты можно посмотреть на civitai в описании к пикчам, можно спиздить с aibooru.
Большинство старых персонажей модель уже знает, если кто-то не получается или персонаж относительно новый, то нужно скачать лору с цивитаи для этого персонажа. Так же есть лоры, натренированные на конкретных художниках.
Cложно - ищи гайд на ютубе, только выбирай посвежее.
Из неплохих моделей еще можно попробовать reweik(1.3 и 1.1) и ebara(особенно версия v1, но ее снесли с civitai, в гугле найдешь)
Пример промта:
score_9,score_8_up, score_7_up, by kawakami rokkaku, moaning girl sitting on boy face while boy lying down with his penis out, facesitting, femdom, hetero, anilingus, precum, motion lines, orgasm, 1boy, 1girl
-Понадобится веб интерфейс и модель
-Веб интерфейс forge, качаем и извлекаем архив https://github.com/lllyasviel/stable-diffusion-webui-forge/releases/download/latest/webui_forge_cu121_torch231.7z
-запускаем update.bat, ждем
-Далее нужно зарегистрироваться на https://civitai.com/
-для начала качаем модель https://civitai.com/models/288584?modelVersionId=324524, запихиваем в models/StableDiffusion
-качаем вот этот файл и пихаем в папку vae https://huggingface.co/stabilityai/sdxl-vae/blob/main/sdxl_vae.safetensors
-запускаем run.bat, ждем пока оно скачает необходимые файлы и откроется веб интерфейс по адресу http://127.0.0.1:7860/
В веб интерфейсе ставим одно из следующих разрешений:
640 x 1536: 10:24 or 5:12
768 x 1344: 16:28 or 4:7
832 x 1216: 13:19
896 x 1152: 14:18 or 7:9
1024 x 1024: 1:1
1152 x 896: 18:14 or 9:7
1216 x 832: 19:13
1344 x 768: 21:12 or 7:4
1536 x 640: 24:10 or 12:5
Я пользуюсь 1152 x 896 большую часть времени. Выбираем нашу модель, выбираем vae, Sampling method ставим euler a, количество шагов от 20 до 30, Schedule type авто, в настройках находишь clip skip и ставишь на 2.
Каждый промпт начинаешь с score_9,score_8_up, score_7_up
негативный промт с score_6, score_5, score_4, source_cartoon, 3d, text, blurry, watermark, censorship, bad anatomy, bad hands,
Далее в промт можно или полностью описывать тегами с гелбуры или сначала описывать картинку нормально естественным языком, а потом добавлять теги с данбуры. Можно указывать определенных художников для копирования их стиля. добавляешь by имяхудожника в начало промта. Промты можно посмотреть на civitai в описании к пикчам, можно спиздить с aibooru.
Большинство старых персонажей модель уже знает, если кто-то не получается или персонаж относительно новый, то нужно скачать лору с цивитаи для этого персонажа. Так же есть лоры, натренированные на конкретных художниках.
Cложно - ищи гайд на ютубе, только выбирай посвежее.
Из неплохих моделей еще можно попробовать reweik(1.3 и 1.1) и ebara(особенно версия v1, но ее снесли с civitai, в гугле найдешь)
Пример промта:
score_9,score_8_up, score_7_up, by kawakami rokkaku, moaning girl sitting on boy face while boy lying down with his penis out, facesitting, femdom, hetero, anilingus, precum, motion lines, orgasm, 1boy, 1girl
Как хорошо, что у меня видюха на 2 гб всего, а то бы я уже умер с этими нейросетями.
Вид от первого лица, угол обзора снизу вверх, в нижней части изображения - хуй гг. Две голые девки сидят сверху на чём-то и сверху смотрят на гг, ногами мнут его хуй. Заранее спасибо, с меня как всегда
Ой морта красотка, бляять, как же у меня на нее шишка горела в детстве. Но больше на темпларку конечно.

Свежая ТА как раз.
Можешь сгенерировать пикрил? Это агент Л из мультика men in black, на неё есть лора.
Если ты не одну пикчу, а несколько генеришь, то было бы круто, чтобы там была прогрессия, сначала она в обычном костюме, потом одежда становится более розового цвета и короче, а в самом конце она уже разодета в супер короткие шлюшачьи шмотки.
Ого, ты даже провёл исследование на предмет наличия лоры. Ок, сделаю.

Профессора Фарузан яростно трахает седой бородатый дед.
сальва это слюни по англ
ЕБАААТЬ АНОН ВЕЛИЧАЙШИЙ РЕСПЕКТ, АЙ КРАСОТКА ПОЛУЧИЛАСЬ.
Опицонально - с крайне довольным лицом и румянцем.
сделал в чутка разных стилях
Созину слава!
Пишу фанфик по Аватару. Умоляю, анончик, нарисуй мне обложку для него. По своему усмотрению.
В сюжете окончательно побеждает страна Огня.
Азула становится лрдом огня
Если не утонет к вечеру как с работы приду мб попробую но хз
Тип такого? У меня ещё из прошлого треда осталось, генерил другой анон

ОПчик, а реально ли сгенерить картинку, чтоб одна тяночка писяла в ротик другой тяночке/кунчику? Я таких артов от нейронки ещё не видел. Вот из прошлого тредика сохранил пикчу с писсингом, прям найс получилось, заинтересовало
Только в негативе, в основном они не нужны в новых моделях поней
Легенда генерила...
1) я не оп
2) скоры стоит убирать когда ты уже играешься с лорами и разными художниками, для ньюфажных ньюфагов скоры норм
3) многие в описаниях самих моделей и лор до сих пор рекомендуют формат со скорами, где-то пишут удалить 8, оставить 9 и 7
еще раз, речь шла о скорах в негативном промте. из-за особенностей тренировки пони эти скоры для модели по сути все являются аналогом masterpiece, best quality на nai
добавляя их в негативный промт ты добровольно лоботомируешь модель, вырезая часть ее знаний.
с позитивным промтом можно экспериментировать со скорами, они будуть чуть менять выдачу и стиль
аа, ну ок, буду пробовать
Тоже хочется генерить контент как ты.
тебе уже на FLUX надо вкатываться. это ваще бомба говорят.
СД все таки уже довольно старая модель, а эта недавно вышла.
>Лоры
Это что такое? Я вообще картинки не генерил такие, просто нравится, как у анонов классно выходит. А сам в этом не разбираюсь
А прошлый в архиве? Я не успел скачать генерации с рей, где она мастурбирует. Может кто-нибудь скинуть плиз?
>говно для аниме
говно на котором можно делать только аниме или говно на котором невозможно делать аниме? :)

просто говно
заказываю прон с Региной Дубовицкой
Что в sd моделях, что sdlx говно одно выходит, Лоры ещё помогают, но тоже не всегда получается


Вот с этой девочкой не существует контента, а ещё никто не знает кто она.
Выше есть гайд но мой совет скачать stability matriх. По мне так он проще чем браузерная версия. Я давно года 2 назад вобще нихуя не понял в браузерной версии.
Тут интуитивно понятно все.
Я точно хз про версию в браузере но там нужно вроде самому модели качать и в нужную папку ручками кидать. В матриксе прямая связь с civitai и все автоматом в нужные папки кинет.
Пиздос я не хочу на зонтик упасть ты че ты че аааа
>про версию в браузере но там нужно вроде самому модели качать и в нужную папку ручками кидать
да, но у тебя буквально есть лоры, которые идут в папку с лорами, и есть модели, которые идут в подпапку стейблдифьюжн
в этой части вообще ничего сложного нету

А ну-ка теперь расскажи как ты не смирился и борешься с системой.
Ебнутый?
Ножки Азулы!!
Оу май! Спасибище. Моар?
Народ просит ГОТ АСКУ И СКАЛИ

Передохнуть не дают, порисовать ДЛЯ ДУШИ, эх.
Место на диске уже закончилось лоры и модели качать, пришлось аниме и стим удалять.
Кринж

Реквестирую, как пикрил разрывает бумажный пакет на голове битарда.
Такой реквест. Цунаде (милфа из наруто) лежит на постели голая, говорит на ушко и улыбается, и надрачиаает хуй подростку, тоже блондинчику.
Как будто ты сам не видишь пережарку и критическую степень насранности нейроартефактами. Ну вот серьёзно.
Тянка из Анозера - одна из тех, кто выбрал вилку. Таких мы уважаем. Таких мы знаем.
Откуда я его знаю? Аниме не смотрел.
бамп запросу
есть такое из старого
О мой бог ты вернулся!!!

С таким же успехом можно хвалить за то, что кто то лишь инициализировать нейронку осилил.
>>26288
>ках итд?
В том числе. Нейронка в принципе любит обсираться с деталями.
Но в первую очередь обрати внимание на места где есть градиент светотени (ебать я как художник говорю) - там и наблюдается т.н. пережарка в особо явном порядке. И поставь уже адетайлер чтобы лица фиксило хоть как то.
>>26673
Просто глоривалл? Ну ща.
а что это за нейронка/генератор ?
Посмотрел в градиенты светотени, ебусь в глаза, правда.
Можешь выделить в пейнте обвести в кружок примеры, пожалуйста?
Охуенный арт!
Попробовал другую сетку - у неё гораздо меньше "артефактов", но мне не нравится сильное падение уровня детализации. Похоже на дешевую ВНку из 2007 года.>>27335

>Адетайлер чтобы наконец то поставил.
Я просто хотел подрочить на любимую девочку, а не вот это всё
А что неиронично можно исправить, что нейронка неправильно затеняет и подобное? Какого хуя тогда она совершает ошибки с конечностями, задача про свет в разы сложнее же, разве нет?
Светотень и градиенты есть в значительном количестве рисовачьих артов в плюс минус приемлемом виде, а вот руки нет.
Нейросеть же просто обучается на них, где вероятность, что она не возьмёт куски от разных источников, где свет ложился по разному в результате чего будет разногласие или она настолько охуенно работает, что берёт картинки с минимальными различиями?
Так она и берет, но усредненный результат может получиться плюс-минус приемлемым в виду обширия датасета.
Хотя на самом деле это пиздец какая интересная задача для будущих математиков, какой процент достанется художнику за то, что часть его работы была в продаваемом арте, возможно ли это вшить в изображение через банальную стеганографию?
Это из стандартных семплов.
При желании, можешь взять хоть образец голоса своей бабушки и озвучивать им.
Художник когда учился рисовать ходил в галерею и изучал там работы чтобы обучаться, или ещё хуже - в интернете копии бесплатно просто смотрел. А потом, обучившись на т.н. датасете нарисовал свои картины.
Вопрос - сколько денег художник должен перечислить из продажи своей первой картины автору той картины, что висит в галерее?

Просто будут платить роялти за использования работ в коммерческих датасетах, в чем проблема.

Можешь нагенерить картинок такого типа с персонажами на своё усмотрение. Именно чтобы персонаж стоял на белом стуле, согнувшийся и с голой жопой.
У него референсы сложнее доказать, а вся ваша хуйня зависит от датасета, в которой его работы включены и при желании это можно будет доказать
Точнее математически вшить в изображение, вроде бы, у онлифанса такое уже планируют вводить, когда в контент автора вшивают информация, по сути а-ля стеганография, но более интересная, типо электронной подписи, которая будет показывать автора слива, в результате чего автор контента сможет банить пользователя.
Эта Мику хочет разобраться с донт вейв!
То есть тебя смущает только сложность подвода доказательной базы, а не сама ебанутость концепции брать деньги за обучение, за доступ к информации.

Причина баха?
Бамп, ждём!
Смотри, Пони жрёт 7 гигов и вменяемая текстовая (N)SFW жрёт ещё больше.
Ты сможешь загрузить в GPU либо одну сетку, либо вторую, но не две сразу.
Ооо, благодарность анон!
Ну, лично меня бы напрягало, что я бессребреник и выкладываю арты в публичный пул, а какое-то хуйло, основываясь на моих работах, лутало бы деньги
Так текстовые нейронки больше Ram жрут, не? Какие-то еба модели требуют 48гигов рамы (будет к новому году, как раз на дыру 5 переберусь).
По крайней мере прога с нейронками пишерэт именно RAM.
>Покупай
Я не буду платить за это, раньше в свободном доступе горы фап контента, сейчас нейроблевотня
Если ничего радикально не изменилось то нет, они также грузятся в GPU, а в RAM только остаток - и оттуда они работают очень медленно, устанешь ждать выдачи текста.
Лол, ну они будут жрать рам если ты используешь гуф жоры строго в cpu режиме без выгрузки слоев на видимокарту. Но это слишком медленно. Пацаны себе собирали риги из p40 лишь бы получить пару лишних заветных итсов на нормальной по размеру модели.
Бля, я сейчас не дома, но я точно видел, что там пишется именно RAM.
Ок, а сколько жрет врам нейронка, которую постит оп?

Хуй знает, сработает это или нет, но хочу попросить попробовать добавить вот эту лору https://pixai.art/model/1751853714273576705 к следующему реквесту. Надеюсь получится.
На любом адекватном сайте есть фильтры, просто фильтруй эйай, в чём проблема?

Анон, а можешь пожалуйста Нагаторо сделать, как на картинке поза и ножкой в кадр. Но обстановка школьная и Нагаторо в школьной форме (но ножки босые)

Вся драма в том что датасеты легально собирались почти 8 лет, формально попадая под те же ограничения что и поисковые движки. Т.е. считай все что было доступно из гугла - все было проиндексировано. Затем эти датасеты были опубликованы под свободной лицензией и только после релиза первых моделей появилось понимание что эта хуйня работает и рисоваки завизжали о краже, ничего подобного не происходило.
>>28538
Работы мои, причина тряски?
> в школьной форме
Да и вообще это как бы уже попахивает кое чем...
Вообще похуй, знание и должно скрыто, большинству людей не стоило вообще заниматься умственной деятельностью, сборище хуесосов и недомерков, которым лопату в руки доверить страшно, любой страждущий либо будет к ней стремиться, либо сам придет к необходимым выводом, всеобщее образование это главная ошибка 20 века
Охуенный арт анон!
>Мне за это уже стоит начать брать деньги...
Было бы что брать.... молю сделай пожалуйста, я больше не буду тебя этим донимать! По крайней мере в ближайшие пару месяцев
> Это фордж
А что за модель? Аутизм? Меня интересует как ты такой жирный аутлайн сделал. Лора художника какая-то?
Так, а как сказал анон выше в одной карте может быть ток одна нейронка?
Я правильно понимаю, что когда я в 25 году перекачусь на 5080, то могу не доставать свою 3080ти на полку, убирая к остальным на память, а просто держать её во второй псине и крутить на ней одну из нейронок? Х8 псина не помеха?
Удваиваю вот этого
ОП, сможешь такое сгенерить? Очень надо.
А качество? Да и я хочу что-то сам крутить, если для этого не требуется ферма из 4090, офк.
Я хочу что бы был сразу экспорт в графическую нейронку, ну, что бы было что-то типа визуальной новеллы.
Но за сайт спс, попробую.
>ставишь таверну
А можно понятнее? Я нейронками только недавно увлекся. Если есть гайд - то вообще збс.
>ставишь таверну
А можно понятнее? Я нейронками только недавно увлекся. Если есть гайд - то вообще збс.

За индустрией не слежу, может сейчас и более актуальная инфа есть.
Статей куча на любой вкус, доказывающих любую точку зрения, финальное решение будет всеравно за судом. Вот одна из статей которые читал когда изучал сабж
https://www.linkedin.com/pulse/stable-diffusion-copyright-wading-uncharted-legal-waters-newman
>It is beyond doubt that many of the images linked in the dataset are copyrighted and scraped from websites without permission. However, the dataset itself is unlikely to be considered in violation of the image copyright holders. Firstly, LAION’s nonprofit status and stated purpose of promoting AI research would fall under fair use (Cantrill and Newman, 2023). Secondly, their website says “LAION datasets are simply indexes to the internet, i.e. lists of URLs to the original images together with the ALT texts found linked to those images,” (LAION, 2022). This makes the dataset a factual expression, like a search engine index or a phone book (Grimmelman, 2023). Web Scraping, the process of gathering publicly accessible information from the internet, is legally permissible, as affirmed by HiQ v Linkedin in 2022 (Whittaker, 2022). It is possible that Stable Diffusion could be found liable for contributory infringement or inducement, given that they encourage users to download the images in order to train models. However, their mission is to encourage research, not profit.

>пик2
Очень круто. А может кто нибудь сделать такой же Фишль из Геншина? Чтоб в такой же позе, покрытой спермой, держащейся за два члена, ну и чтоб грудь была небольшая... Может так кто-нибудь пожалуйста?
Урсула из Русалочки

У меня 1-3 часа на каждую работу уходит, я тут только старыми шитпостю

> бя этим донимать
Да в принципе то ниче страшного. В конце концов я сам в реквест тред пришел.
>>29184
> А что за модель?
Пони
> Лора художника какая-то?
В основе моя (самотрененая в смысле) стилевая лора.
>>29368
> годных текстовых нейронок для ролевого отыгрыша
Midnight-Miqu-70B-v1.0.Q4_K_M или L3.1-70B-Euryale-v2.2.i1-Q4_K_M
Её итак негр выебал в прошлом треде, пускай отдыхает

Да почти что угодно лучше чем ванильные пони, она слишком часто мутантов выдает
Промты: чулки, белые трусики, норм ляжки, норм жопа, не голый верх, вид с нескольких ракурсов
Спасибо анон!!

Там не нужно кучи negative промптов и она более стабильно рисует стили.

Я первичную генерацию как раз в ванильных понях делаю, потом уже персонажей другой моделькой дорисовываю. Пальцы вечно мутированы, лица размыты. Те же реалистичные модели гораздо лучше людей генерируют, но мне задний фон не нравится
За Нагаторо лайк


ОП, ну сгенерь. Ну что тебе стоит? Или нейронка не может в такие сложные позы?
Долго тренил? Я на 3070TI заебался 14 часов ждать чтобы лору для простого персонажа натренить, а для стилей вроде как в разы больше семплов нужно.

>Скиллишью тащемта
Возможно. Вообще, по моим ощущениям, пони быстро деградируют с добавлением лор в промт, особенно стилей. А у меня стабильно 3 стилевые лоры и еще 1-3 опциональных для персонажа/позы/действия
За Азулу
Дело семейное как грится

Bot takogo 60lbwe.


Да конечно никто не поймет.

Это оно же?
Вот тут написано, что требуется 42гига RAM, это же именно оперативная память, да? Не !V! RAM?
Я кинул лоры, крути верти, раздевай, насилуй, делай с ней что захочешь, она вся в твоем распоряжении


Сделал из твоего микуслопа апгрейженый микуслоп
Да, мой фетиш

Да.
Было бы ахуенно, если бы ещё и трусами на голову натянутыми и с гандонами наполненными и подвязаными везде.
> RAM
Смотри. Есть ггуфы (GGUF) - этот формат предназначен для жоры т.е. Llama.cpp и оно будет грузить в оперативку и если хочешь можно сделать выгрузку (из оперативы при этом вес не съебётся никуда) в гпу, тогда тебе потребуется врам, да. А есть формат (не помню как он там) для другого загрузчика ExLlama, вот там все грузится и работает строго на видимокарте и значительно быстрее чем на жоре, даже если ты на жоре сделаешь полную выгрузку слоев в видимокарту.
>>31539
Да, 4090.

> Да, 4090.
Пиздос. Я конечно люблю генерить картинки, но покупать ради этого ПЕЧ4090 не готов...
Там TDP небось - можно батареи зимой не включать.
Ну я вот пока поигрался с Fimbulvetr v2 11B, с тем же character.ai не сравниться по качеству текста, но скорость впринципе ОК.
Вот что показывает сама прога: llama2.11b.fimbulvetr-v2.gguf_v2.q4_k_m, RAM 6.32 (примерно то число, как указано в требовании по оперативе), и при этом жрёт 7.72 VRAM.
Как рассчитать, сколько жрать будет видеопамяти скинутая аноном модель? Так же 40гигов?
Я просто думал что в видеокарту крутится нейронка, а это типа библиотека или что-то в этом роде, к которой обращается при необходимости.
Но раз их нужно полностью загружать в ВРАМ, то на такое я раскошеливаться пол ляма не готов, лел.
Ага, и 250 кусков выложить ещё. +100 кусков на остальной комп чтобы её потенциал раскрыть.
4070Ti это мой максимум
Прога backyard .ai Наткнулся чисто в сети.
новый бамп
> Так же 40гигов?
40 гигов это сама модель, еще прибавляй к этому несколько гигов на контекст - его ведь тоже надо где то хранить. Гиги на контекст в зависимости от семейства модели жрутся по максимуму, где то условные пару гигов, а где то, как у комманд-р - как бык помои. Чтобы загрузить мику в 4ом кванте и 8к контекста (плюс остальная система) ну где то 47-48 гигов видимопамяти или оперативы и надо. Вообще это все надо на практике подмечать, например жор видимопамяти может отличаться в зависимости от коммита той херни который ты это запускаешь, фазы луны и криворукости макаки собирающей весь бекэнд вместе.
>ужно полностью загружать
Нет, не нужно. Но чем больше слоёв модели загрузишь (речь про жору) тем быстрее будет.
>>31965
Ну я то успел почти как у грефа за 80к взять.
Ну я уже один хуй хочу себе на новой 9кх3д ряженке собраться по максимуму 64 гигами оперативы (с возможностью увеличения до 128 ещё двумя плахами, если с нейронками играться понравится), чтоб на следующие лет пять с головой хватило.
Вопрос только в карте, потому что я хочу взять и готов отвалить в районе 140к на 5080, но опять же, мне что-то подсказывает, что хуня после слива амуды ща такую цену задерёт, что кишка выпадет.
Поэтому вопрос в 3080ти, насколько она потянет такую модель, если она будет у меня в оперативе лежать и я готов подождать секунд 15-20 (как сейчас), что бы она мне ответ выдала.
Ааааа годнота!!! Спасибо анончики вы супер

1312x632, 1:06
> до 128 ещё двумя плахами
Нинада, у тебя не будет четырёхканала, лол.
А контролер памяти ряженки с ума сойдет от четырёх планок. Тут лучше сразу двумя планками брать на всю котлету.
> хуня после слива амуды ща
Куртка и без амуды цену завернет, онж монополист щас.
> ь секунд 15-20
Лол, проблема в том, что нормальные ЖЫРНЫЕ модели любят попиздеть. И твои 20 секунд на 7b модели превратятся в несколько минут для 70b. Вон пикрелейт время генерации на 4090+p40. Не лучшая конфигурация, но свои 6 исов в сек держит на 70b. Ну и в примере еще по моему не на всех слоях было, т.к. часть видимопамяти ушла под голосовую нейронку, но общее представление оно тебе даст.
Вообще пацаны у кого есть деньги собирают риг не из p40, а из 2х-3х 3090 с авиты, как раз под нейронки. С 3090 ты и поиграть сможешь и картинки погенерить и на буквы покумить.
Это прекрасно, спасибо, анон, наконец-то будут новые обои и на телефоне и на пеке
87секунд? Ну это уже многа, конечно.
>6иксов
Это типа попугаи в бэнче каком-то? Как проверить, сколько 3080ти жмёт?
>3 3090
Не, такой ёбанью я заниматься точно не буду, лел.

> Как проверить, сколько 3080ти жмёт?
Если речь про https://github.com/oobabooga/text-generation-webui - будет в консоли написано прямо снизу как ответ родится. Если про кобальд то хуй знает, тоже поди в консоле где нить.
> ю я заниматься точно не буду, лел.
Ну я бы не сказл что ёбань. В конце концов на что только не пойдешь, чтобы лампово (и быстро) пиздеть со своей нейровайфой? Ну и чем больше карт - тем больше видимопамяти, а значит можно более жирный квант погрузить будет.
>с нейровайфой
С одной стороны да, с другой стороны прям упарываться нет желания.
Ну вот куплю я условную 5080, если куртка пидорасина не зажмёт жижу7, то будет её там в районе 24гигабут (ага, щас), то вместе с 3080ти будет 36.
Или их прям нужно в через спец разьём нвидиевский подрубать? я правда забыл, есть ли он на 4090
> будет 36.
Это по хуйне. Минимум для удобства надо 48.
> спец разьём нвидиевский подрубать?
Нет, просто в мамку через райзеры (а без райзеров все равно не влезет азазза)
Хотя я сейчас загуглил р40, в принципе 30к выкинуть для нейронок не проблема. Советуешь?
Это копия, сохраненная 18 сентября в 19:16.
Скачать тред: только с превью, с превью и прикрепленными файлами.
Второй вариант может долго скачиваться. Файлы будут только в живых или недавно утонувших тредах. Подробнее
Если вам полезен архив М.Двача, пожертвуйте на оплату сервера.