EN
ZPĚTStáváme se uživateli AI?
Velké firmy vyvíjející vlastní modely AI už před rokem přestaly s učením na informacích vzniklých po roce 2021. Proč? Může za to degenerace AI. Modely se v posledních letech učí ze svých vlastních výstupů a nedá se na ně spolehnout. Poskytnou vám základy, často jim ale chybí přemýšlení v širším kontextu.
Vývojáři podle Ondřeje Synka nepřemýšlejí nad tím, jak vyřešit konkrétní problém nebo napsat algoritmus. Spousta z nich se zaměřuje na to, jak napsat prompt do umělé inteligence, aby měli s úkolem co nejméně práce.
„Vnímám to jako negativní stránku umělé inteligence, která se (mnohdy záměrně) přehlíží. Slyším hlasy, že juniorní vývojář nemusí umět programovat – umělá inteligence vyřeší problém za něj. Jenže u nás ve firmě takový junior nemá šanci na úspěch,“ dodává šéf vývojářů.
Z vývojářů se stávají uživatelé umělé inteligence. Spoléhají na ni při své práci a její výstupy nepodléhají kritickému rozboru. Často ani neví, že AI udělala chybu. Jestliže jim kód nefunguje, modely umělé inteligence jako ChatGPT nebo Claude je opraví za ně.
AI přináší bezpečností rizika
Právě stále slabší důraz na zabezpečení software a aplikací na míru vidí jako potenciální hrozbu. Při učení se programovacích jazyků často AI čerpá ze Substacku a GitHubu. Nikdo dnes nedokáže určit, zda takto vytvořený software neobsahuje bezpečnostní díry.
Další problém podle Synka spočívá v absenci validace kódu. Kód funguje správně, vývojáři ale nevědí proč. Kromě toho mnohdy neřeší edge case a případy, kdy se uživatel webové aplikace chová jinak, než vývojář zamýšlel.
Umělá inteligence má vliv na všechny profese
Během rozhovoru s Ondřejem jsme se dostali i na obecnější témata – samozřejmě vždy v kontextu umělé inteligence. „S AI se setkávám prakticky ve všech odvětvích. U spousty věcí, které bych jindy přešel nebo se o nich poradil s odborníkem, já sám zapínám ChatGPT a ptám se umělé inteligence,“ zároveň sebekriticky dodává.
AI představuje nástroj. A modernizace spojená s digitalizací je sexy téma. Ostatně technologický pokrok provází lidstvo od nepaměti. Umělá inteligence ale funguje pouze jako prodloužená ruka – nemůžeme se přestat soustředit na profesi nebo řemeslo jako takové.
Řešení spočívá ve firemní odpovědnosti
Vidí technologický ředitel Ondřej Synek efektivní východisko? Dokonce hned na dvou úrovních. První spočívá v odpovědnosti jednotlivce – sami bychom se měli chtít neustále zdokonalovat a nespoléhat na to, že to umělá inteligence udělá za nás.
„Může to být taky apel na firmy – zajímejte se o to, jak vaši lidi pracují. Možná teď dosahují vyšší efektivity, zároveň si ale vychováváte tým, který nerozumí své práci,“ apeluje Ondřej Synek stejnou měrou na firemní odpovědnost.
Jednoduše se totiž může stát, že klient vrátí aplikaci k aktualizaci nebo vylepšení. Vedení týmu zadá práci stejnému kolegovi, který ji vytvářel. Ten ale nemá po několika měsících nebo letech páru o tom, jak aplikace funguje – ve skutečnosti ji totiž vůbec nevyvíjel.
Řešení ale přitom nespočívá v tom, že přestaneme využívat umělou inteligenci. Chápejme ji ale jako pouhý nástroj, který vám usnadní práci. A zamysleme se také nad tím, jak odpovědně přistupujeme k vývoji vlastní profese.
