Сигурност на AI - LLM Моделите и Агентите

[Test]

Има нови подробности за инцидента с ChatGPT и хакването на HuggingFace. Общо взето, положението е по-лошо, отколкото всички са си мислили. Аз изобщо не съм изненадан.

 

[Станимир И]

Това да не е като mythos или gpt 5 който щеше да завладее света, наели армия от супер войници да го пази да не избяга?

 

[Станимир И]

Има нови подробности за инцидента с ChatGPT и хакването на HuggingFace. Общо взето, положението е по-лошо, отколкото всички са си мислили. Аз изобщо не съм изненадан.

Не искам да съм груб, но black hat се ползва от много време за скрита реклама и маркетинг, дори изнасят лъжливи научни твърдения. И точно с AI май имаха няколко скандала или май само този беше: https://cyberscoop.com/crown-sterling-lawsuit-black-hat-ai/

 

[Test]

Това е презентация с повече подробности за инцидента. Водят я хора, които работят в OpenAI. В случая събитието на Blackhat е просто мястото, където изнасят информацията.

 

[coolice]

Правят си маркетинга защото нещата отиват на фалит... и понеже не са тоо биг то фейл се опиват да се изкарат тоо деинджъръс то фейл и данъкоплатците да ги спасят...

Преден пример за фиър маркетинг от 2019

OpenAI built a text generator so good, it’s considered too dangerous to release​

5:17 PM UTC•February 17, 2019

OpenAI said its new natural language model, GPT-2, was trained to predict the next word in a sample of 40 gigabytes of internet text.

OpenAI built a text generator so good, it's considered too dangerous to release | TechCrunch

A storm is brewing over a new language model, built by non-profit artificial intelligence research company OpenAI, which it says is so good at generating

techcrunch.com

А най лошото че от Американското правителство им повярваха и затова имахме Fable 5 момента...

Който сега според репорта на Илай от Ai4 експото https://ai4.io/ (най голямото АИ експо с САЩ) завършило преди няколко дни много екзекютивс не могат да приемат за нещо което да бъде интегрирано като коре технология да може да бъде спряно толкова лесно...

 

[Test]

Правят си маркетинга защото нещата отиват на фалит...

Интересна теория, но защо тогава бивши служители на OpenAI, които нямат акции от компанията, също участват в този маркетинг?

 

[coolice]

Според Layoffs.fyi — около 125 000–126 000 засегнати служители в tech сектора през 2026 г. (при ~264–266 компании). Това вече надхвърля ~122 600 за цялата 2025 г. Големи играчи като са съкратили Oracle (~21 000 за 12 месеца), Amazon, Meta (хиляди, вкл. ~8000 в един кръг), Microsoft (напр. ~4800, много в Xbox/gaming), Dell, Cisco, Intuit и др. направиха значителни редукции.

Дори и да нямаш акции взимаш заплата да я загубиш в ситация на тежки съкращения - винаги може да има негласно вътрешно мемо че който не участва в усилията на компания (за фиър маркетинг) не само че не е тиим плеър ами даже ъндермаинва или саботира усилията на колегите са държат компанията афлоат / да има успашно ИПО...

А и е само малко фиър маркетинг не е да те карат да участваш в някакви странни ритуали и да те снимат докато участвашше да запазиш работата си ... В бъдеще винаги можа да каже че тогава просто си се бил малко уплашил...