Вчені навчили штучний інтелект писати спам і фейки

Новий генератор текстів був створений компанією OpenAI. Оригінальна версія машини була визнана «дуже небезпечною», щоб її оприлюднити. Адже деякі зловісні групи могли б зловживати її функціями. Однак, нова більш потужна версія штучного інтелекту, яка здатна писати фальшиві новини або спам в соціальних мережах, все ж була опублікована. Алгоритм отримав назву GPT-2.

Його тренували за допомогою бази даних з 8 мільйонів сайтів. Він здатний адаптуватися під стиль і суть даного йому тексту. Алгоритм може закінчити вірш Вільяма Шекспіра або написати статтю. «Через наших занепокоєнь щодо зловісного використання технології, ми не публікуємо треновану модель. Як експеримент в відповідальному розкритті, ми публікуємо значно меншу модель для дослідників, щоб вони могли експериментувати», – пояснили в OpenAI. В результаті в загальний доступ потрапила версія штучного інтелекту з меншими можливостями. Вона використовує меншу кількість фраз і зворотів, ніж передова модель. У цьому місяці OpenAI розширила можливості доступної версії, надавши їй доступ до більш широкої бази тренувальних даних.

«Я боюся GPT-2, тому що це той вид технологій, які злі люди будуть використовувати для маніпуляції населенням. І, як на мене, це небезпечніше, ніж будь-яка зброя», – сказав автор статті Трістан Грін.

Журналісти ВВС також вирішили перевірити роботу ШІ, задавши йому кілька пропозицій, які він повинен був продовжити. В результаті вийшов грамотний, але не дуже логічний текст.

“Якби все працювало так, як задумали в OpenAI, система стала б корисним інструментом для легкої генерації фальшивих новин і спаму. На щастя, в нинішній формі вона генерує неузгоджений і смішний текст”, – заявив професор комп’ютерних наук Університету Шеффілда Ноел Шаркі.

Джерело: hyser.com.ua