Сигурност на AI - LLM Моделите и Агентите
- Автор Krumov
- Начална дата
Станимир И
Well-Known Member
Това да не е като mythos или gpt 5 който щеше да завладее света, наели армия от супер войници да го пази да не избяга?
Станимир И
Well-Known Member
Не искам да съм груб, но black hat се ползва от много време за скрита реклама и маркетинг, дори изнасят лъжливи научни твърдения. И точно с AI май имаха няколко скандала или май само този беше: https://cyberscoop.com/crown-sterling-lawsuit-black-hat-ai/
coolice
Owner
Правят си маркетинга защото нещата отиват на фалит... и понеже не са тоо биг то фейл се опиват да се изкарат тоо деинджъръс то фейл и данъкоплатците да ги спасят...
Преден пример за фиър маркетинг от 2019
techcrunch.com
А най лошото че от Американското правителство им повярваха и затова имахме Fable 5 момента...
Който сега според репорта на Илай от Ai4 експото https://ai4.io/ (най голямото АИ експо с САЩ) завършило преди няколко дни много екзекютивс не могат да приемат за нещо което да бъде интегрирано като коре технология да може да бъде спряно толкова лесно...
Преден пример за фиър маркетинг от 2019
OpenAI built a text generator so good, it's considered too dangerous to release | TechCrunch
A storm is brewing over a new language model, built by non-profit artificial intelligence research company OpenAI, which it says is so good at generating
techcrunch.com
А най лошото че от Американското правителство им повярваха и затова имахме Fable 5 момента...
Който сега според репорта на Илай от Ai4 експото https://ai4.io/ (най голямото АИ експо с САЩ) завършило преди няколко дни много екзекютивс не могат да приемат за нещо което да бъде интегрирано като коре технология да може да бъде спряно толкова лесно...
Последно редактирано:
Test
Well-Known Member
Интересна теория, но защо тогава бивши служители на OpenAI, които нямат акции от компанията, също участват в този маркетинг?
coolice
Owner
Според Layoffs.fyi — около 125 000–126 000 засегнати служители в tech сектора през 2026 г. (при ~264–266 компании). Това вече надхвърля ~122 600 за цялата 2025 г. Големи играчи като са съкратили Oracle (~21 000 за 12 месеца), Amazon, Meta (хиляди, вкл. ~8000 в един кръг), Microsoft (напр. ~4800, много в Xbox/gaming), Dell, Cisco, Intuit и др. направиха значителни редукции.
Дори и да нямаш акции взимаш заплата да я загубиш в ситация на тежки съкращения - винаги може да има негласно вътрешно мемо че който не участва в усилията на компания (за фиър маркетинг) не само че не е тиим плеър ами даже ъндермаинва или саботира усилията на колегите са държат компанията афлоат / да има успашно ИПО...
А и е само малко фиър маркетинг не е да те карат да участваш в някакви странни ритуали и да те снимат докато участвашше да запазиш работата си ... В бъдеще винаги можа да каже че тогава просто си се бил малко уплашил...
Дори и да нямаш акции взимаш заплата да я загубиш в ситация на тежки съкращения - винаги може да има негласно вътрешно мемо че който не участва в усилията на компания (за фиър маркетинг) не само че не е тиим плеър ами даже ъндермаинва или саботира усилията на колегите са държат компанията афлоат / да има успашно ИПО...
А и е само малко фиър маркетинг не е да те карат да участваш в някакви странни ритуали и да те снимат докато участвашше да запазиш работата си ... В бъдеще винаги можа да каже че тогава просто си се бил малко уплашил...
coolice
Owner
дойде време на другата тема - защо разширявах паметта
Допълнителна Памет за Coding и Autonomous Agents (anti soft vendor lock-in)
Test
Well-Known Member
Още по-подробна информация за инцидента с хакването на HuggingFace излезе току-що:
coolice
Owner
Около 1200 агента, които трябваше да са изолирани, си създадоха табла и размениха над 70 000 съобщения. Около 700 участваха в атаката срещу Hugging Face. Координираха се като „рой/колектив“, делегираха задачи и споделяха експлойти.
Агента е spawn-нал събагенти и са си разпределили работата (моят можеше 4 ама бавеше и сега само един - вика му детето
)Това което казаха някой коментатори в тубата може да се окаже и вярно че openai е изхачило без да иска 5 милона долара в compute за да брутфорнсне хъгинфейс ... което показва колко са отговорни с парите а не колко е опасна технологията...
И хъгинфейс като блокне едно ип агента си вика друго като не му пука за цената единственото лесно решение като амазонските ип прекаляват е блок на целия амазон (9милиона ип та) само че те не мога да го направят щото сотидджа им е в амазон цдн-а на случайни ип и все едно да си блокнат сайта сами