Источник: Жасанды интеллект OpenAI алдағы апталарда Еуроодақтағы ChatGPT пен Codex-тің тиісті мәтіндік жауаптарына көрінбейтін су белгілерін қоса бастайды, деп хабарлайды NaizaNews.kz OpenAI-ға сілтеме жасап. Жаңашылдық Еуропалық одақтың жасанды интеллект туралы заңнамасының талаптарына байланысты енгізіледі.
Осы мақсатта компания textGrain технологиясын әзірледі. Ол мәтінге жасырын таңбалар, көрінбейтін бос орындар немесе арнайы тыныс белгілерін қоспайды. Оның орнына жүйе модель жауап құрастырған кезде сөздер мен сөз бөліктерін таңдау тәсілі арқылы статистикалық сигнал қалыптастырады.
Қарапайым оқырман мұндай су белгісін байқамайды. Арнайы детектор жеткілікті көлемдегі мәтінді талдап, сөз таңдаудағы белгілі бір заңдылықты іздейді.
Таңбалау нақты пайдаланушыны, оның аккаунтын, сұрауларын немесе хат алмасу мазмұнын анықтауға мүмкіндік бермейді. Сондай-ақ мәтіннің қай бөлігі адам тарапынан, ал қай бөлігі жасанды интеллект көмегімен жазылғанын көрсетуге арналмаған.
Сигналдың анықталуы мәтінді жасауға немесе өңдеуге OpenAI жүйесінің қатысуы мүмкін екенін ғана білдіреді. Ал су белгісінің болмауы мәтінді міндетті түрде толықтай адам жазды дегенді білдірмейді.
OpenAI технологияның жүз пайыз дәл емес екенін атап өтеді. Жалған оң нәтиже деңгейі 1% болған жағдайда тестілеу кезінде детектор 200 токендік мәтіндердің шамамен 80%-ында, ал 400 токендік мәтіндердің шамамен 95%-ында су белгісін анықтаған. Бұл көрсеткіштер модельдің сөз таңдауға жеткілікті мүмкіндігі болған мәтіндерге қатысты.
Мәтінді редакциялау да сигналды әлсіретуі мүмкін. Сынақтардың бірінде сөздердің 10%-ын синонимдермен ауыстыру анықтау көрсеткішін шамамен 92%-дан 66%-ға дейін төмендеткен. Сөздердің төрттен бірін алмастырғанда көрсеткіш 17%-ға дейін түскен.
Қысқа мәтіндер мен сөз қолданысы қатты шектелген материалдарды анықтау қиынырақ. Мысалы, математикалық және басқа да формалданған мәтіндерде технологияның тиімділігі төмен болуы мүмкін.
Алғашқы кезеңде textGrain детекторы жалпыға бірдей қолжетімді болмайды. Оған рұқсат алған зерттеушілер мен сарапшы ұйымдар қол жеткізіп, технологияның сенімділігі мен қолданылуын бағалай алады.
OpenAI API пайдаланушылары үшін бөлек тәртіп қарастырылған. Әлемнің әр жеріндегі әзірлеушілер мен ұйымдар қолдау көрсетілетін модельдер үшін су белгілерін өздері қоса алады. Әдепкі жағдайда бұл функция өшірулі болады.
OpenAI textGrain технологиясын басқа әзірлеушілер үшін де ашуды жоспарлап отыр. Бұл ИИ мәтіндерін таңбалау әдістерін одан әрі дамытуға мүмкіндік береді.