Claude ще прилага невидими водни знаци върху текст и изображения, създадени с изкуствен интелект

[NovaPS]

Да, за изображения е малко ограничено, предвид, че е на споделен хостинг и проверките са много бейсик, ама имам едни идеи..., ше видим ко ша каже бай ИИван.

Мерси за фийдовете.

 

[бай Иван]

Да, за изображения е малко ограничено, предвид, че е на споделен хостинг и проверките са много бейсик, ама имам едни идеи..., ше видим ко ша каже бай ИИван.

Мерси за фийдовете.

Ще го пробвам и с текст, ама .... петък вечер е

Утре пък съм на агрофитнес ...

Ще пробвам тия дни и ще пиша.

 

[FalcoSoft ITS]

Да, за изображения е малко ограничено, предвид, че е на споделен хостинг и проверките са много бейсик, ама имам едни идеи..., ше видим ко ша каже бай ИИван.

Мерси за фийдовете.

ако някой иска да заблуди системата винаги може да го направи. Снимката която пуснах за скан ти сам я виждаш в админ панела ти е генерирана от chatGPT като рекламна. Но аз след това я качих в CorelDraw без да пипам нищо по нея и я сейвнах в JPG формат , а оригинала е в png . Така показа 25% вероятност да е създадена от Ai

 

[бай Иван]

ако някой иска да заблуди системата винаги може да го направи. Снимката която пуснах за скан ти сам я виждаш в админ панела ти е генерирана от chatGPT като рекламна. Но аз след това я качих в CorelDraw без да пипам нищо по нея и я сейвнах в JPG формат , а оригинала е в png . Така показа 25% вероятност да е създадена от Ai

Точно така, аз направих същото, само ползвах XnView. Работи, поне засега.

 

[FalcoSoft ITS]

Точно така, аз направих същото, само ползвах XnView. Работи, поне засега.

принципно има един единствен начин за маркиране , но това го ползват службите които издават официални държавни лични документи. Ако не ви е известно да ви поясня, че в личната карта, шофьорска книжка и задграничен паспорт в снимката е вграден така наречения IPI код който се вижда само със специална лупа . IPI кода съдържа трите имена и номера на паспорта на притежателя му. С обикновенно око дори при най подробна снимка с х48 увеличение пак няма да видиш нищо. Такива лупи и софтуер имат граничните полицаи и митничари принципно. Този софтуер е специализиран и фрий платформи нямат достъп до него, но съществува и това наистина е начин за маркиране който не се вижда с просто око.

Дори при ксерокопие на документа текста под лупата се чете. Ако мине през каквато и да е програма CorelDraw , XnView те няма да премахнат кода.

 

[coolice]

Има официален блог пост от вчера (още е днес даже в силиконовата долина) как работи watermark-a

https://www.anthropic.com/news/claude-text-watermark

Ето превод на български:
Превода е направен с qwen3.8 27b (local) за да видите как се справят мъника... Новият Qwen 3.8 27b Dense

Бъдещите модели на Claude ще генерират текст, съдържащ воден знак. Това е начин да се определи вероятността Claude да е участвал в написването на текста и ние, заедно с няколко други водещи доставчика на изкуствен интелект, въвеждаме тази промяна в съответствие със Закона на ЕС за изкуствения интелект (EU AI Act).

В тази статия отговаряме на някои от въпросите, които получихме за начина, по който избраният от нас метод на маркиране с воден знак работи, дали той влияе на изходите на Claude и защо правим тази промяна. В обобщение:

• Използваме метод на маркиране с воден знак, който няма практически влияние върху качеството или съдържанието на изходите на Claude;
• Разликата между текста с воден знак и текста без такъв няма да е разпознаваема за читателя;
• Не се добавя нищо към текста и няма скрити символи;
• Водният знак не изисква допълнителни токени и няма да струва повече;
• Водният знак не съдържа идентифицираща информация и не може да се проследи до конкретен човек, организация или чат;
• Водният знак няма да е специфичен само за Claude. Към 2 август ЕС изисква от доставчиците на ИИ, обслужващи пазара си, да маркират съдържанието, генерирано от изкуствен интелект. Други разработчици на водещи модели са подписали същия Кодекс на практика и ще внедряват собствените си водени знаци.

Какво е маркирането с воден знак?​

Големите езикови модели като Claude работят, като генерират по една дума наведнъж. Всеки път, когато моделът се определя за следващата дума, той избира от списък с потенциални кандидати и накрая избира най-разумния или вероятен, базиран на предходния текст. Вземете изречението „Днес времето беше хладно и…". Следващата дума е много малко вероятно да бъде „захарна". Но е доста вероятно да бъде „облачно" или „сиво". В повечето случаи за читателя не е от голямо значение коя от последните две думи моделът избира накрая — смисълът на изречението е в голяма степен същият в двата случая. В такива случаи изборът се решава от случайно число.

Маркирането с воден знак използва безрискови избори като тези — които се срещат многократно в едно генерирано текст — за да остави шаблон в отговорите на Claude. Този шаблон е неразпознаваем за читателя, но е детектируем от всеки, който разполага с ключ, който го кодира. Когато се използва маркиране с воден знак, изборите пак се правят на случаен принцип, но източникът на случайността е различен. Вместо да използва произволен генератор на случайни числа за избирането на следващата дума, водният знак използва ключа и няколко предходни думи, за да определи коя дума моделът трябва да избере. Тоест думите, които Claude избира, все още са случайни, но вече може да се провери редоследта на думите и да се види дали е в съответствие с изборите, които Claude би направил, ако използваше ключа. Ако е така, може да се определи вероятност, че текстът е генериран от Claude.

Важно е да се отбележи, че моделът не е по принцип предразположен винаги към „облачно" или „сиво". Така както и при текста без воден знак, „облачно" може да бъде избрано в едно изречение, а „сиво" в следващото, в зависимост от думите, които са предхождали. И не е така, че методът на водния знак натиска Claude да избере дума, която и без това нямаше да разгледа (например няма да накара Claude да избере дума като „nubilous" — малко известен синоним на „облачно" или „сиво", който Claude почти със сигурност нямаше да използва в нормални обстоятелства).

Как маркирането с воден знак влияе на изходите на Claude?​

Водният знак не влияе на качеството на изходите на Claude. За читателя отговорът с воден знак е неразличим от такъв без него (в това отношение водените знаци на ИИ съществено се различават от техните физически аналози на банкноти, други материали предмети и някои цифрови документи, които са видими за невооръжено око).

При вътрешното ни тестване не забелязахме влияние на водения знак върху съдържанието, нивото на креативност или четимостта на текста на Claude. В статията SynthID-Text, която въвежда техниката, която ние използваме, Google DeepMind тества това влияние, като подаде модел с воден знак на част от трафика си на Gemini и сравни оценките „обърнат палец нагоре" и „обърнат палец надолу". Не откриха статистически значими разлики в сравнение с модела без воден знак. А в контролирано проучване човешки оценяващи, сравнили отговори с и без воден знак странично, не откриха разлика в качеството.

Полезна аналогия е да си представите, че играете игра като Монополия. На всеки ход всеки играч се придвижва на случаен брой полета около дъската според хвърлянето на зар. Да приемем, че вместо да хвърляме зар, за да получим тази случайност, сме решили да използваме книга с цифрите на числото пи.¹ Започваме от случайно избрана цифра (кажем, 1 012 845-ата след десетичната запетая, която се оказва 6) и оттам нататък всеки играч просто използва следващата цифра в поредността като своето следващо „хвърляне".

За всички практически цели ходовете все още са случайни: за играчите — или за резултата от играта — няма значение дали случайността идва от числото пи или от хвърлянето на зар всеки път. Но ако можехме да видим поредността на всички ходове след играта (и знаехме стойността на пи), бихме могли да установим дали е вероятно в тази игра да е използвано числото пи за определяне на ходовете. Играта, използвала числото пи, е в известен смисъл „разпечатана с воден знак".

Същото важи и за текста, генериран от Claude. Водният знак не променя смисъла или преживяването на човека, който го чете, но ако искате по-късно да проверите дали текстът вероятно е генериран от Claude, водният знак ви позволява да го направите.

Кой конкретен метод на маркиране с воден знак използвате?​

Водният знак на текста на Claude е версия от подхода SynthID-Text, публикуван от Google DeepMind в статия в списание Nature през 2024 г. Той принадлежи към семейство подходи, които водят началото си от предложение на Скот Ааронсън от 2022 г., всички от които споделят същия проектен принцип, който описахме по-горе — водният знак променя само източника на случайността, използвана за избиране между думи.

Маркирането с воден знак има ограничения в ефективността си. С нашия ключ може да се отговори само на въпроса „Каква е вероятността това да е частично написано от Claude?" Той не потвърждава дали текстът е написан от човек и не може да каже дали текстът е написан от друг ИИ (дори и другият ИИ да използва воден знак, той ще има различен ключ; той може да използва и изцяло различен метод на маркиране). Детектирането на воден знак също не работи добре с малки проби, където има по-малко избори на думи и следователно по-малко информация за опора. Колкото по-дълъг е откъсът, толкова по-голяма е увереността в участието на Claude.

Водният знак е по-ретък в фактологичните откъси, където има по-малко избори, които могат да бъдат направени без да се понижва точността на текста. Например, вземете изречението „Най-известният труд на Айзък Нютон се казва Principia…". Има реално значение дали следващата дума е „Mathematica" (това е единственият верен отговор), затова водният знак няма на какво да действа. Същото важи и за коригирането. Ако подадете на Claude текст и му поискате да редактира само граматиката и interpunktuацията... — интерпункцията — и нищо друго, водният знак може да се намира само в малкото корекции, които може да са твърде малко, за да се регистрират.

Какво с случаите, в които Claude е коригирал или редактирал човешки текст?​

Водният знак се прилага само към думите, избрани от Claude. Когато Claude коригира текст, написан от човек, това, което връща, обикновено е леко редактирано; тъй като почти всички думи са на човека, има много малко (ако и нещо), за което водният знак да се „залепи". В зависимост от дължината на текста и доколко силно Claude го е редактирал, тези промени може да не са достатъчни, за да направи участието на Claude детектируемо. Колкото повече Claude пише, толкова повече решения трябва да вземе и толкова повече има място за воден знак.

Какво с кода?​

Както отбележихме по-горе, маркирането с воден знак на ИИ се възползва от решения, при които и двата варианта на избор на дума са еднакво добри. Когато е необходим точен изход — когато няма избор и би било фактическа грешка или би се счупил фрагмент от код, ако бъде избран различен термин — водният знак не се прилага.

Например, след като моделът е написал „2 + 2 =", има много ясен оптимален избор за следващия токен (ако моделът допълва сумата, няма отговор, който да е еднакво добър като „4"; ако говори за романа на Джордж Оруел „1984", няма отговор, който да е еднакво добър като „5"). „Подтикът" на водния знак няма да се прилага тук. По същата причина кодът — който в много случаи трябва да бъде точен — обикновено е маркиран с воден знак в по-малка степен от някои други форми текст.

Въпреки това, в места, където има произволен избор между конкретни думи или термини в кода, водният знак може да се използва — например в коментарите в кода. Но по дефиниция ефектът му върху реалния генериран код ще е незначителен.

Какво означава това за потребителите?​

Това ли забавя модела или го прави по-скъп?​

Не. Водният знак има незначително влияние върху скоростта на моделите и тъй като не генерира допълнителни токени, моделът струва еднакво за обслужване и за ползване.

Може ли водният знак да се проследи до мен или до моята организация?​

Не. Маркирането с воден знак се отнася до Claude и неговите изходи. То не идентифицира нищо, свързано с отделните потребители. В водения знак или в неговия ключ няма нищо, което би позволило на някого да възстанови каквато и да е информация за потребителя, неговата организация или неговите чатове с Claude.

Защо маркирате изходите на Claude с воден знак?​

Въвеждаме маркиране с воден знак в съответствие със Закона на ЕС за изкуствения интелект. Anthropic, заедно с няколко други водещи доставчика на модели на ИИ и общо около 190 подписника, подписа Кодекса на практика на ЕС за прозрачност на съдържанието, генерирано от ИИ, през юли 2026 г. Той изисква от доставчиците на ИИ системи да използват методи за „маркиране" на текста, генериран от изкуствен интелект. Прилагаме водения знак глобално при пускането, защото все още нямаме издръжлив начин да го ограничим по региони. Въпреки това ще продължаваме да оценяваме различни подходи и ще споделям актуализации, когато ги има.

Други въпроси​

Как да проверя дали някой текст е написан от Claude?​

През скоро ще предлагаме API за детектиране на водени знаци. Работим по детайлите на неговото внедряване.

Какво със снимките и другите файлове?​

Когато Claude генерира файл от поддържан тип (като .png, .jpg или .svg), той ще прикачи удостоверение за съдържание в виде на малка, криптографски подписана бележка в метаданните на файла, която казва, че файлът е създаден или обработен с Claude. Това е отворен индустриален стандарт, наречен C2PA — същият, използван от производители на фотоапарати и в софтуер за редактиране на снимки, за да се записва откъде идва изображение. Всяко C2PA-поддържащо инструмент може да го прочете; ние ще предоставим и свой, където може да поставите файл и да проверите.

Тази метаданна етикет е много различен от воден знак. Нищо във файла не се променя — не е вграден или скрит. Така както и при текста, удостоверението просто казва, че Claude е участвал в създаването на файла; то не съдържа идентифицираща информация.

Не може ли някой просто да редактира текста, за да заобикали водения знак?​

До известна степен, да. Леко редактиране вероятно няма да премахне водения знак напълно; пълно пренаписване, при което всяка дума е заменена, ще го премахне. В последния случай, разбира се, може да се спори дали текстът все още може да се опише като генериран от ИИ.

Какво всъщност доказва воден знак?​

Водният знак може само да определи, че Claude е вероятно участвал със съдържанието в един момент. Той не може да различи „Claude е написал това" от „Claude е силно редактирал това".

Прилагат ли се водени знаци към преводите?​

Да. Превод, генериран от Claude, носи воден знак, защото в този случай всяка дума е избрана от Claude.

Какво със по-старите модели на Claude?​

Законът на ЕС включва преходен период за моделите на Anthropic, пуснати преди 2 август 2026 г., и ние работим по добавяне на воден знак за тези модели също. Това ще бъде въведено в рамките на идните месеци.

Какво се различава това от софтуера за детектиране на ИИ като Pangram?​

Софтуерът за детектиране на ИИ използва различен метод, защото компанията, които го предоставят, нямат нашия ключ. Сред другото, тези услуги разглеждат аспекти на текста като дискретните (и не толкова дискретни) „разкрития", които често се появяват във формулировките на ИИ. Например моделите на ИИ изглежда са склонни към конструкцията „това не е [X], а [Y]" и използват думата „quietly" (тихо) много по-често, отколкото може би очаквате. Разпознаването на тези шаблони е фундаментално различно от проверката за воден знак.

Променя ли това кой притежава даден изход или кой носи правна отговорност за него?​

Не. Водният знак само помага да се тества дали Claude е възможно да е генерирал или обработил съдържанието. Той не казва нищо за притежанието или авторството и не променя правата на потребителя според нашите условия. Прилагаме водения знак само когато Claude е участвал в обработката на съдържанието или файла.


Бележки

1. Или, както може би бихте казали, nubilous — което също е синоним на „малко известен".
2. Числото пи технически е предсказуемо, но всяка поредица от цифри от някакво място в средата на пи е неразличима от поредица от хвърляния на десетстранен зар. Също така, независимо от факта, че заровете в Монополия са от 1 до 6, докато цифрата на пи може да е от 0 до 9; аналогията не е перфектна.

 

[NovaPS]

ИИван направи няколко промени, би трябвало да се справя по-добре с ИИ картинки.

 

[coolice]

ИИван направи няколко промени, би трябвало да се справя по-добре с ИИ картинки.

Понеже питаше за тестове - превода над поста ти

 

[NovaPS]

Понеже питаше за тестове - превода над поста ти

Да мерси, по прнцип, ако го джурнеш пак би трябвало да е повече, щото тъкмо правих промени за изображенията и бях върнал едни по-стари настройки на проверките