Предупреждението на MS Надела за корпоративната AI зависимост

[coolice]

Резюме: Предупреждението на Надела за корпоративната AI зависимост​

Satya Nadella says companies that trust one AI for everything may not survive | TechCrunch

Companies without their own models — or without a layer of AI infrastructure known as AI gateways to separate their prompts from the model itself — will be in trouble, Nadella says.

techcrunch.com

Основно послание Генералният директор на Microsoft Сатя Надела предупреждава, че компаниите, които разчитат изцяло на затворени AI лаборатории за своите AI нужди, няма да оцелеят.

Ключови опасения

• Излагане на данни и промптове: Бизнесите трябва да бъдат внимателни при предаването на данни и промптове на AI доставчици
• Контрол върху данните за употреба: Компаниите трябва да запазват метаданните, за да могат в крайна сметка да обучават собствени модели
• Риск от аутсорсване на мисленето: Компаниите без контрол върху своята AI инфраструктура са „по същество аутсорснали своето мислене“
• Достъп на агенти: Тъй като предприятията дават на AI агенти достъп до операциите на компанията, рискът AI лабораториите да изучават и да се конкурират с техния бизнес нараства

Препоръчани решения

• Изграждане на собствени модели или поддържане на AI шлюзове, които разделят промптовете от самия модел
• Запазване на coding harnesses отделно от моделите и контекста/паметта
• Използване на множество модели вместо зависимост от един доставчик
• Приемане на open-weight модели, които могат да бъдат фино настроени на хардуера на компанията

Контекст и уговорки

• Позицията на Microsoft: Microsoft инвестира в Anthropic и OpenAI, но също така печели от продажбата на алтернативна AI инфраструктура
• Потребители срещу предприятия: Надела признава, че потребителите трябва да приемат споделянето на данни като „цената“ за безплатни услуги — тази загриженост се отнася само за бизнесите
• По-широка тенденция: Предприятията все повече търсят по-евтини, персонализируеми open-weight модели и решения за управление на множество модели

И разбира се няма как да не пусна професор Вучков на американското ИТ Eli the Computer Guy (човека има crazy eyes + TDS + 1.13M subs) но това не значи че не е прав за някой неща а и бисерите са му добри...

Satya Nadella channeling his inner Bill Gates to start f*cking with AI companies hardcore... 0:33

 

[coolice]

Ето реалистичен и работещ Open Source стак, който много хора ползват в момента (2026) и който покрива голяма част от това, за което Сатя Надела предупреждава:

1. Базов слой (Inference)​

• Ollama - най-лесното и стабилно решение за повечето хора. Поддържа почти всички добри open-weight модели, има OpenAI-compatible API и работи с GPU (при мен на първите тестове не толкова отлично, аз почнах с LmStudio което е free но не е опен..
• Алтернативи за по-напреднали: llama.cpp (llama-server) - в момента цъкам на това (компилирано от сорс) или vLLM, ако искаш максимална скорост и контрол (това ми правеше проблеми през месец Май заради поддръжка на хардуера ми)

2. Frontend / Chat интерфейс​

• Open WebUI - в момента е де факто стандартът... Красив ChatGPT-подобен интерфейс, история на чатовете, RAG (качване на документи), multi-user, глас, image generation, plugins и OpenAI-compatible endpoint... Работи перфектно с Ollama и може да се свърже и с Hermes Agent...

3. Модели​

• За кодинг конкретно: Qwen3-Coder, DeepSeek-Coder, Devstral, MiniMax или специализирани coding fine-tune-ове...

• Други всеки да си тества и каквото му допадне - колкото голямо може да го рънне - Qwen 3.6 35b се усеща като интелигентен модел и на Asus GX10 - 70 токена на секунда nvfп4 Gemma 4 26b QAT - много добър български също се усеща интелгенте - малко халюцинира, но ако идвате от по малък модел няма да го усетите... Qwen 3.5 122б като го тествах правеше добри тестове на български но скоростта беше по ниска от Minimax M2.7 IQ4_XS* 229b - който e най-големия който съм рънвал и ми е персоналния дейли драйвър в момента (Модифициран MIT - ок за персонално ползване - за комерсиални цели трябва да ги питате) и няма вижън но ще го преживея ... Специално трениран за agentic coding, tool use, multi-agent работа и дълги продуктивни задачи... SWE-Pro ≈ 56.2% (на ниво GPT-5.3-Codex)... Terminal Bench 2 ≈ 57% ... VIBE-Pro ≈ 55.6% (близо до Opus 4.6)...

* Защо точно Unsloth IQ4_XS - Unsloth ползва своята Dynamic 2.0 квантизация

• Важните слоеве се държат на по-висока точност (8/16-bit)
• По-малко важните се компресират по-агресивно
• Резултатът е по-добро запазване на качеството спрямо стандартни IQ4/Q4 квантове със сходен размер

4. Агентен слой​

• Hermes Agent - Самостоятелен агент с памет между сесии, създаване и подобряване на skills, tool use, terminal, файлове, browser и т.н. Може да работи напълно локално през Ollama и да се закачи към Open WebUI като backend. Това е една от най-интересните open-source агентни системи в момента, може да си прави скилове сами като му ги описвате и дори с MiniMax локален модел се справи доста добре.. .

• Не съм от ОpenClaw отбора за да пиша повече за него но някои го ползват и ще се радвам ако споделят...

5. Кодинг инструменти (IDE / Terminal)​

Кодинга не ми е силната страна на мен и никога не съм твърдял че съм дев първото което направих като почнах да цъкам с локално AI с qwen2.5-coder:7b на 4060-ката си рефакторнах 15+ години мини bash script-ове който ползвам ежедневно и си работят - но все не ми оставаше време да ги направя по ок все си го бях мислил: по нататък ще ги оправя и накрая се повиха LLM ... След това разцъках малко VS Code с continue повече за тестове и да пусна тема във форума да пълня секцията Но с Хермес и къстъм скилловете вече съм сигурно на 10K + реда python

Тук има няколко силни open-source опции:

Инструмент	Тип	Най-добро за	Локални модели
Cline	VS Code / JetBrains	Агентни multi-file редакции + terminal	Отлично
Aider	Terminal (CLI)	Git-native pair programming, чисти commits	Отлично
Continue	VS Code / JetBrains	Autocomplete + chat (Copilot-style)	Отлично
OpenCode	Terminal + extension	Много provider-и, бърз старт	Добро

Най-често хората комбинират:

• Cline или Continue в VS Code за ежедневна работа
• Aider за по-сериозни multi-file промени и когато искат чиста git история

Примерен работещ стек (практичен)​

Ollama / llama.cpp / vLLM (модел: Qwen3-Coder)
↓
Open WebUI ← ежедневен чат + RAG
↓
Hermes Agent ← автономни задачи - или ако някой иска да се конектне към сайта си през ssh и само да насочва през чата
↓
Continue / Cline / Aider ← кодинг в IDE / терминал


Всичко това е 100% open-source, работи офлайн и е под ваш контрол. Можеш да се още:

• Qdrant или ChromaDB за по-сериозен RAG
• n8n за автоматизации - free но не опен сорс (fair code) беше тръгнал да става хит и се появиха агентите - алтернтиви Activepieces (MIT), Windmill (AGPLv3), Automatisch
• SearXNG за локален web search - за агента ви и OpenWebUI но взех да си ползвам и аз (направих си го дефултна търсачка на firefox-a... ако искате търсачка без АИ слоп като едно време.. не е ника лоша мета тъсачка търси ендовременно в гугъл брейв дъкдъго и прави съмари - има и други според както го настройте ...