|
3
|
Хумор, сатира и забава / Живота, вселената и някакви други глупости / Re: Що е то ИИ/AI и има ли то почва у нас?
|
-: Apr 30, 2026, 07:55
|
При Windows това е без значение. При инсталацията на системата в EULA си казват, че не поемат отговорност при щети, предизвикани при използване на системата или нещо подобно в този смисъл. Съгласил си се, че не са виновни, дори и да са. Имам предвид, че няма значение, дали е open-source.
Малко се поразстърсих. Има една камара инциденти с ИИ агенти, които вършат бели, дори да си им казал нещо друго да направят. В единия случай ИИто се опитало дори да си прикрие следите. Има над 40% вероятност нещо да свърши зле. Това включва бъгове в генерирания код, който първо, че иска ревизия всеки път, второ, трябва да намериш и оправяш тези бъгове. Ако дадеш инструменти на ИИто (там достъп до бази данни, софтуер, който се използва в продуция, и изобщо инструментариум), направо си играеш с огъня. https://venturebeat.com/technology/43-of-ai-generated-code-changes-need-debugging-in-production-survey-finds
|
|
|
|
|
4
|
Хумор, сатира и забава / Живота, вселената и някакви други глупости / Re: Що е то ИИ/AI и има ли то почва у нас?
|
-: Apr 30, 2026, 07:46
|
А, ако ползваш ИИ модел на компания, който не е open-source и заради това не знаеш, с какви данни и параметри е трениран какви, тоест не можеш да определиш точно крайния резултат, който си/би получил (при ИИ-тата това е невъзможно както на практика, така и на теория), как ще определиш, какво първо е бъг при езиковия модел, как ще реагира на определен промпт (на всеки промпт отговора е различен, дори да подаваш абсолютно същия промпт), и съответно, при невъзможност за определяне на крайния резултат, чия е грешката? При езиковия модел или при подадения промпт. Ако промпта е логически издържан и безопасен, но ако знаеш, че езиковия модел е на практика черна кутия в която каквото и да хвърлиш, не знаеш точно какво ще излезе, как би определил чия е вината? Експерта няма да помогне в случая, а само ще обърка съдията или съдиите (имаме ли журита у нас?). При програмните езици има пълен детерминизъм - ако има бъг или е известен, или може да се открие в последствие при експертизата. Ако програмиста, съответния администратор е допуснал грешка в действията и командите, които е подавал, това също можеш да се определи ясно. При LLM нямаш яснота. Дори промпта да е логически напълно зловреден, езиковия модел може да сътвори нещо прекрасно. Малко вероятно е, но може да се случи. Онче-бонче е. Дори моделът да е open-source, няма как да си сигурен напълно в крайния резултат, дори да доведеш в залата хората, които да го сътворили за експерти. It is possible (though not guaranteed) for a completely malicious prompt to result in something good (helpful, harmless, or even beneficial) when fed to an LLM. This happens mainly because of the probabilistic and non-deterministic nature of LLMs.
|
|
|
|
|
7
|
Сигурност / Системна Сигурност / Re: Сериозни уязвимости
|
-: Apr 28, 2026, 18:32
|
Не е първата издънка с меринджей на пароли ...
Толкова ли е сложно всеки да си направи криптиран файл с най-важните си пароли и другите чувствителни данни !?! 
Сложно е за хора, които са свикнали всичко да правят с две натискания върху дисплея или смишката.
|
|
|
|
|
8
|
Хумор, сатира и забава / Живота, вселената и някакви други глупости / Re: Още извънтемие
|
-: Apr 28, 2026, 18:21
|
Егати и златния суров петрол. Заради простотиите на Тръмпа:
https://fakti.bg/world/1051080-cenata-na-petrola-nadmina-110-dolara-za-barel
Има хора, които направиха стотици милиони и дори милиарди, от манипулацията на цените на петрола. Тръмп пуска някой туит, в който казва, че се водят преговори за прекратяване на вайната и цената тръгва надолу. Хайде след това обратно нагоре, след като се разбере, че лъже. Сина му направи и той една камара пари покрай това.
|
|
|
|
|
11
|
Хумор, сатира и забава / Живота, вселената и някакви други глупости / Re: Що е то ИИ/AI и има ли то почва у нас?
|
-: Apr 28, 2026, 11:29
|
|
Наясно съм, какво е токен.
Но не съм съгласен, че ще ни се наложи. Ако почти всички почнат да ползват това нещо, това означава, че цялата софтуерна индустрия попада в ръцете на една компания.
Идва и въпросът, ако повечето код се генерира от ИИ, което е контролирано от една компания, какво ѝ пречи на тази компания да вмъкне, каквото си иска в кода? Американска ли е? Ако е американска, правителствените агенции могат да отидат при който и да е инжинер от тази компания, да му кажат да вмъкне каквото му кажат и той няма право да казва на никого, дори на шефовете си.
С това ли трябва да свиквам? Или който и да е друг.
А за оглупяването не го написах просто така. Не малко програмисти след продължителна работа по този начин не могат да напишат и два реда код, а само гледат в дисплея и две минути не могат да зацепят.
|
|
|
|
|
Страници: [1] 2 3 ... 623
|
|