Служителите тайно използват ChatGPT и това ще създаде рискове за технологичните директори
Рязкото нарастване на инвестициите на големите технологични компании в изкуствен интелект и чатботове - на фона на масовите съкращения и спада на растежа - кара много от главните служители по информационна сигурност да се притесняват.
След като ChatGPT на OpenAI, Bing AI на Microsoft, Bard на Google и планът на Илън Мъск за собствен чатбот се появиха на първите страници на вестниците, генеративният изкуствен интелект навлиза на работното място и главните служители по сигурността на информацията трябва да подхождат към тази технология с повишено внимание и да се подготвят с необходимите мерки за сигурност.
Технологията, която стои зад GPT, се захранва от големи езикови модели (LLM) или алгоритми, които създават подобни на човешките разговори на чатбота. Но не всяка компания разполага със собствен GPT, така че фирмите трябва да следят как работниците използват тази технология.
Хората ще използват генеративен AI, ако го намират за полезен за работата си, казва пред CNBC Майкъл Чуи, партньор в McKinsey Global Institute, като го сравнява с начина, по който служителите използват персонални компютри или телефони.
"В цялата история сме откривали технологии, които са толкова убедителни, че хората са готови да платят за тях", каза Чуи. "Хората купуваха мобилни телефони много преди фирмите да кажат: "Ще ви доставя това". Подобно беше положението с персоналните компютри, така че сега виждаме еквивалента с генеративния AI".
В резултат на това за компаниите има "догонване" по отношение на това как ще подходят към мерките за сигурност. Независимо дали става въпрос за стандартна бизнес практика като наблюдение на информацията, която се споделя в платформата за изкуствен интелект, или за интегриране на GPT, одобрена от компанията, експертите смятат, че има определени области, в които служителите по информационна сигурност (CISO) и компаниите трябва да започнат действия.
Започнете с основите на информационната сигурност
CISO - които вече се борят с прегарянето и стреса - се справят с достатъчно проблеми, като потенциални атаки за киберсигурност и нарастващи нужди от автоматизация. С навлизането на AI и GPT на работното място CISO могат да започнат с основите на сигурността.
Чуи каза, че компаниите могат да лицензират използването на съществуваща платформа за изкуствен интелект, така че да могат да наблюдават какво казват служителите на чатбота и да се уверят, че споделената информация е защитена.
"Ако сте корпорация, не искате служителите ви да подсказват на публично достъпен чатбот поверителна информация", казва Чуи. "Така че можете да въведете технически средства, с които да лицензирате софтуера и да имате приложимо правно споразумение за това къде отиват или не отиват вашите данни".
Лицензирането на използването на софтуер е свързано с допълнителни проверки. Защитата на поверителната информация, регулирането на мястото, където се съхранява информацията, и насоките за това как служителите могат да използват софтуера - всичко това е стандартна процедура, когато компаниите лицензират софтуер, независимо дали става въпрос за изкуствен интелект или не.
Ако имате споразумение, можете да извършите одит на софтуера, за да видите дали той защитава данните по начина, по който искате да бъдат защитени, препоръчват експертите.
Повечето компании, които съхраняват информация със софтуер, базиран на облак, вече правят това, така че изпреварването и предлагането на служителите на платформа за AI, която е санкционирана от компанията, означава, че бизнесът вече е в съответствие със съществуващите практики в индустрията.
Как да създадете или интегрирате персонализиран GPT
Една от възможностите за сигурност за компаниите е да разработят свой собствен GPT или да наемат компании, които създават тази технология, за да направят персонализирана версия, казва Самир Пенакалапати, главен изпълнителен директор на Ceipal, платформа за придобиване на таланти, управлявана от AI.
В специфични функции като HR има множество платформи - от Ceipal до TalentGPT на Beamery, а компаниите могат да разгледат плана на Microsoft да предложи персонализирани GPT. Но въпреки все по-високите разходи, компаниите може да поискат да създадат и своя собствена технология.
Ако компанията създаде свой собствен GPT, софтуерът ще разполага с точната информация, до която иска служителите да имат достъп. Компанията може също така да защити информацията, която служителите подават към нея, каза Пенакалапати, но дори наемането на компания за изкуствен интелект, която да генерира тази платформа, ще позволи на компаниите да подават и съхраняват информацията безопасно, добавя експертът.
Какъвто и път да избере дадена компания, Пенакалапати каза, че CISO трябва да помнят, че тези машини работят въз основа на това как са били научени. Важно е да се подхожда целенасочено към данните, които се предоставят на технологията.
"Винаги казвам на хората да се уверят, че разполагат с технология, която предоставя информация въз основа на безпристрастни и точни данни. Защото тази технология не е създадена случайно", каза Пенакалапати.