Изпечатай

[kuunlaaksot]

аа, между другото, Голямата Идиотия дето я очаквах се случи. Публикуваха статия (ее, хайде, ревю) с фигури генерирани от АИ:

https://www.reddit.com/r/labrats/comments/1arhyee/published_2_days_ago_in_frontiers/

погледни, бе...!

Е, от Frontiers я ретрактнаха:
https://www.frontiersin.org/news/2024/02/16/frontiers-statement-concerning-the-article-cellular-functions-of-spermatogonial-stem-cells

и отнесоха тонове критика и подигравки, но то бива излагация, ама толкова не бива. Да оставим първата "фигура" на плъха с огромния хуй, втората 'фигура' със сигнализационните каскади може да докара всеки дето се е занимавал с вътреклетъчна сигнализация до тиха лудост.

И разбира се, тая кретения само ще налее вода в мелницата на ония дето се пенят как учЕните са клатикурци (нарочно я ползвам тая дума, да сме в крак с фигура 1) и се занимават с глупости.

[4096bits]

Не бих го нарекъл проблем, а лично решение. Но както писах, ако ще трябва да му проверявам инфото, не ме устройва. То за времето, в което ще му проверявам на ИИ-то работата, ще си я свърша сам. Не мога да рискувам, да изтъпаня в съда някакви решения в защита на моята си теза, а да се окаже, че такива решения или няма, или пък не са баш това, което се опитвам да докажа.

Дори да работеше, би станал зависим, сивото ти ще спре да работи както трябва, крайния резултат ще е провал.
Изпитал съм го като дете, щото от бързане да си напиша домашното, ползвах калкулатор у дома. В резултат на това оценките в клас ми спаднаха от средно 5,5 по математика на 3.

Затова и  не ползвам ИИ при кодене на нещо, ( като оставим настрана, че си го правя и за свои нужди, не ми е професия или работа ), а предпочитам да чета или гледам и да уча. ИИ ползвам само за търсене, как се прави нещо. Изкарва ми и код например, на който така или иначе щях да попадна, ако ползвах нормална търсачка. Поглеждал съм референциите и всичко си е там. И обясненият и кода.

Но да ми  изкара нещо наготово?

Предполагам, че в твоя случай ИИ също би бил полезен. Да ти търси конкретни случаи, имащи връзка с казуса ти. На които би могъл да се опреш, развивайки тезите си. Но дотам. Сам да ти развие тезата... Не, че не би могло. Но както казах, собствените ти способности ще залинеят.

[malin1]

Много отдавна даваха филма "Бразилия". И питам един приятел "бива ли го филма?" - "мммм, не е за тебе, няма да ти хареса". Повярвах му и не го гледах на кино... След време (доста години след това) случайно засичам страшен филм по някой от каналите, да, същия - бразилията, гледах го няколко пъти и си го свалих да го имам.
ИИ-то пък посмъртно няма как да хване никогаш, освен в книгите, човешкото. Секой човек си е уникум. И с навлизането на технологиите се опитват (и успяват) да зомбират най-вече младото поколение. Преди време на една спирка гледам пет дечица, личи си, че се познават, всяко се вторачило в неговия си телефон и хем са заедно, хем са всяко едно в некой негов свят.

[ddantgwyn]

ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs

Abstract

Safety is critical to the usage of large language models (LLMs). Multiple techniques such as data filtering and supervised fine-tuning have been developed to strengthen LLM safety. However, currently known techniques presume that corpora used for safety alignment of LLMs are solely interpreted by semantics. This assumption, however, does not hold in real-world applications, which leads to severe vulnerabilities in LLMs. For example, users of forums often use ASCII art, a form of text-based art, to convey image information. In this paper, we propose a novel ASCII art-based jail-break attack and introduce a comprehensive benchmark Vision-in-Text Challenge (VITC) to evaluate the capabilities of LLMs in recognizing prompts that cannot be solely interpreted by semantics. We show that five SOTA LLMs (GPT-3.5, GPT-4, Gemini, Claude, and Llama2) struggle to recognize prompts provided in the form of ASCII art. Based on this observation, we develop the jailbreak attack ArtPrompt, which leverages the poor performance of LLMs in recognizing ASCII art to bypass safety measures and elicit undesired behaviors from LLMs. ArtPrompt only requires black-box access to the victim LLMs, making it a practical attack. We evaluate ArtPrompt on five SOTA LLMs, and show that ArtPrompt can effectively and efficiently induce undesired behaviors from all five LLMs.

Подробности - в статията.

[go_fire]

Точно вчера четох за него при руснаците. Това е толкова тарикатско, че се чудя, как аз не съм се сетил. Даже може без ИИ, а обратна трансформация например с библиотеката на ФСС за шрифтове. Поне така си мисля.

За съжаление номера с OCR няма да работи за най-гадната от всички капчи. Щото онова веднъж вече е минало и не е било разпознато.

[spec1a]

...
По същата логика в Кауфланд въведоха каси без касиерки. Що да им плащаме заплата.. Днес бях в Кауфланд, трябваха картофи за вкъщи и беше най-близкото място. Е, нямаше опашка пред касата на самообслужване. А познай какво ще стане, ако всичките им каси станат такива.
...

   Не знам как е във Варна,у Софето  около касите на самообслужване обикаля някоя
кифла от касиерките да следи дали всичко се маркира както трябва ...

   Между другото във повечето вериги  хипермаркети има такива каси.
От личен опит: най-добре е в "Лидъл" - организирани са нещата както трябва,има
1 касиер,на който можеш да платиш и кеш (освен с карта или телефон).
В "Кауфланд" е някъде по средата: също може кеш,но там има специални машини,
които приемат банкнотите и монетите,и се случват грешки, може да не се  маркират
пуснати пари и ... проблем. Затова като пазарувам там,гледам да е наблизо
касиерката,която наблюдава,и пред нея да пускам кинтите.
Най-зле е в "Била": там на касите на самообслужване може да се плаща само с карта.

[kuunlaaksot]

ори да работеше, би станал зависим, сивото ти ще спре да работи както трябва, крайния резултат ще е провал.

абсолютно вярно. Само дето много хора не разсъждават така и искат да е лесно и да става от самосебеси. Освен това (и съм наясно че звуча като закостенял чичар) в момента расте поколение дето е свикнало всичко да става с мазане на пръст по тъчскрийна и на което се внушава как всеки от уникален по-уникален.

[remotexx]

ори да работеше, би станал зависим, сивото ти ще спре да работи както трябва, крайния резултат ще е провал.

абсолютно вярно. Само дето много хора не разсъждават така и искат да е лесно и да става от самосебеси. Освен това (и съм наясно че звуча като закостенял чичар) в момента расте поколение дето е свикнало всичко да става с мазане на пръст по тъчскрийна и на което се внушава как всеки от уникален по-уникален.

Е защо "като" - вече всички сме "закостеняли чичари" тъдява... тъй е тя, едно време нашите (родители) много ги беше страх от Мадона, е дойде и нашия ред (поне тия дето са се самовъзпроизвели)

[kuunlaaksot]

бе и ти си прав, ма да не слагаме всички в кюпа

> нашите (родители) много ги беше страх от Мадона
моите със сигурност не ги е притеснавала. Ама и таз, горката, на какво се е направила в последно време...

[go_fire]

Бийте ме, ама за мен новите поколения са много по-добри от нас и ние сме срам за тях.

[malin1]

Хем е тъй, хем не е. Добре, че има приказка "Защо да не трепим старите хора". Дето вика един колега - навремето викаха за нас, че за никъв не ставаме, сега викат - брей, големи майстори - на кой да вярваш.

[Nik123]

Файър, недей така с боя, тука не е димокраси, а демокрация
За поколенията не съм съгласен, редовно ми се налага да обяснявам на някакви млади палячовци с накъсани дънки и страшни мюсюлмански брадички, че не е много ОК нито да се пуши тревичка, нито да се дръпне кристалче, а после да караш и да си мислиш, че гадните ченгета са виновни, защото са ти взели книжката (вече и колата). И бонус условна. Или пък на някоя пикличка с манекенско кученце, че не може да теглиш бързи кредити и после да си мислиш, че като не плащаш, няма да те изпраскат в съда (двойно и отгоре), само защото нямало парички, как да плащаш аджеба.. (и тук допълвам, че такива са ми идеални, аз си вземам моето и им правя там по някое споразумение/спогодба, но бих предпочел да няма такива, въпреки това, че бих изгубил част от доходите си).

П.П. Изключително отговорно поколение, някой го каза- само по тъчскрийна. Повечето, не слагам всички под общ знаменател, но по мои наблюдения, ситуацията е трагична, макар да не е изгубена още надеждата.

А иначе ми дреме точно на ... за какъв ме мислят бъдещите управляващи и работещи Единствено у дома ги насочвам, накъдето смятам за необходимо, и когато го смятам за правилно. Но това е вече силно субективно и всеки си преценява как да възпитава поколението си.

П.П.П. Извинявам се за офтопика, но пак отекохме

[remotexx]

Това не е офтопик, точно по топика си е.
Точно така се прави. Нали следващото поколение закостеняли чичаци и то трябва да се (на)учи (отнякъде). Никой не се е родил научен.

П.П. и аз така правя с моите, засега още попиват, но някой ден... Човек и добре да живее ..се жени

...а за останалите - вицът на деня 
Мамо, тате, гледайте ме още малко.. докато пораснат децата, че да ме гледат те 

има и бонуси
https://m.vicove.biz/image-vic-86c75f0c655addf22747fdc5337a1b8a.png

 https://m.vicove.biz/image-vic-c44f101c06f27312c24025094ddfac71.png

[Nik123]

Ами да, поне собствените си да научим на нещо, че нас един ден няма да ни има. Пък нататък вече, сами ще се оправят.
Аз като писах за ония с накъсаните дънки и мюсюлманските брадички с тревата, и другите с манекенските кученца и бързите кредити, имах предвид част от клиентелата, да уточня все пак, новото поколение, ама не моето  Но не всички са така, макар и да не са мнозинството. По мои впечатления, затова писах, че има надежда още.

Има и по-зле, както едни проклятия в стари футболни форуми- "синове да имате, зетьове да ви доведат.." .. поне от тая позиция съм спокоен

Айде  и лека!

[remotexx]

Никои не му се учи вече - ще чакаме на ИИ
Ей го на и НАСА така - даваш им цялата документация, но на хартия и.. тия наскоро завършилите не знаят какво да я правят 
https://cosmos.1.bg/space/2024/03/09/nasa-voyager-1/

нямало онлайн търсене
ИИ неможе да подскаже нищо
нямало било симулатор

готованковци ниедни - ама тя неволята учи, макар че.. по-скоро ще направят както обикновено ще захвърлят по-стария модел за по-нов т.е. тъй и ще го оставят Вояджъра на бунището на историята (лично мнение)