Ще вземе ли хляба от ръцете ни изкуствения интелект?

[Sky]

колко паралелни разговора може да поддържаш с карти?

 

[FalcoSoft ITS]

колко паралелни разговора може да поддържаш с карти?

тук изобщо не става дума да подържам разговори, а за създаване на видео съдържание или по точно сериали. Няма да хабя ценната техника за глупости.

 

[Sky]

тук изобщо не става дума да подържам разговори, а за създаване на видео съдържание или по точно сериали. Няма да хабя ценната техника за глупости.

E нали в дейтинга щеше да правиш AI girlfriend?

 

[NovaPS]

Ai Girlfriend has left the chat...

 

[NovaPS]

E нали в дейтинга щеше да правиш AI girlfriend?

Според мен това е много бейсик, не отговаря на интергалактическите заявки.

 

[FalcoSoft ITS]

с 4 × RTX 5090 можем да обслужваме десетки едновременно генерирани отговори и значително повече активни текстови разговори. Точният капацитет обаче зависи от модела, дължината на историята и колко бързо искаме да отговаря.

Важно е да разграничим:

• Активни разговори: хората четат, мислят и пишат. През това време не е нужно видеокартите постоянно да изчисляват отговор за всеки.
• Едновременно генериране: например 50 души изпращат съобщение почти едновременно и AI трябва да отговори на всички.

Има публикуван тест на точно четири RTX 5090, който дава полезен ориентир. ARK Labs съобщава следните резултати със своята конфигурация на Qwen3.5‑122B‑A10B:

Едновременно генерирани отговори	Отчетена скорост за всеки
16	около 34 токена/секунда
32	около 26 токена/секунда
64	около 24 токена/секунда

Това е тест на доставчика, а не измерване на нашия бъдещ сървър. Използвани са кратки входни заявки и дълги отговори; продължителните разговори на български ще имат различно натоварване. Публикуваните измервания.

За BGDating броят хора може да е доста по-голям от броя едновременни генерации. Ето условен пример за планиране:

• Ако нашата конфигурация постигне 600 изходни токена/секунда при реалните разговори;
• средният отговор е 100 токена;
• всеки потребител получава един отговор в минута;

това прави средно 360 обслужвани потребители, или около 180 при оставен 50% резерв за пикове. Това е сметка по допускания, не обещан капацитет на картите.

Всяка 5090 има 32 GB видеопамет — общо 128 GB в четирите карти, разпределени между тях. Част от паметта отива за модела, друга — за обработваните разговори. Спецификации на NVIDIA.

Ако избраният модел се побира на една карта с достатъчно място за разговорите, можем да пуснем четири негови копия и да разпределяме потребителите. По-голям модел може да изисква няколко карти за едно копие. Документация на vLLM.

За първоначалното планиране бих мислил за стотици активни текстови чатове. Преди да обещаем конкретна бройка, трябва да измерим избрания модел с реалистична българска история и приемливо време за отговор. Това предполага, че четирите карти обслужват чата, без паралелно обучение или генериране на видео.

 

[NovaPS]

В zamunda.intergalactic вече има трейлър

 

[FalcoSoft ITS]

 

[coolice]

ще остнае работе само skilled tradespeople and neurodivergent thinkers - и CEO на Палантир наема такива self taugh хора като последния гейт е интервю с него

 

[FalcoSoft ITS]

аз друго да питам.... Сигурен съм, че 90% от хората тук незнаят , че когато работите с Codex в компютъра ви в C: се създават файлове обслужващи системата на Codex. Колко GB заема тази папка на компютъра ви? Ето моята статистика:

В проверените папки има около 13,6 ГБ на C: и 51,1 ГБ на F:. Преместването е освободило основната част от данните на C:.

На C: остават:

Файлове	Размер
.codex — история, настройки и помощни файлове	5,94 ГБ
Среда за изпълнение на инструментите	1,79 ГБ
Допълнителни инструменти	0,74 ГБ
Локални данни на приложението	2,26 ГБ
Останала папка от преместването	2,84 ГБ

Само базата с историята thread_history_1.sqlite е 4,46 ГБ.

Проектите, сесиите и генерираните изображения вече са на F:. Старите им адреси в C: водят към тях чрез връзки - не са втори копия.