Forwarded from The Idealist
The Atlantic: приготовьтесь к текстовому апокалипсису
ChatGPT - самая модная технология последних месяцев, позволяющая генерировать тонны реалистичного текстового контента. Футурологи уже пугают нас писателями-гениями на кремниевой основе из будущего, однако Мэтью Киршенбаум из The Atlantic видит более банальную, и вместе с тем реалистичную угрозу: совсем скоро нас захлестнёт тонна текстового спама, которую мы никак не сможем отличить от творений рук человеческих.
«Подобно ценным росчеркам пера каллиграфа, человеческий документ в Интернете может стать раритетом, который нужно будет курировать, защищать и сохранять. Тем временем алгоритмические основы общества будут оперировать текстовой базой знаний, которая будет становиться все более и более искусственной, ее истоки будут лежать в непрекращающемся движении языковых моделей. Воспринимайте это как спам планетарного масштаба, но в отличие от спама, для которого у нас есть более или менее эффективные средства защиты, может оказаться, что нет надежного способа отмечать и фильтровать следующее поколение машинных текстов. «Не верьте всему, что читаете» может превратиться в «Не верьте ничему, что читаете», когда это происходит в Интернете».
https://theidealist.ru/textapocalypse/
#TheAtlantic #технологии #СhatGPT #ИИ #интернет
ChatGPT - самая модная технология последних месяцев, позволяющая генерировать тонны реалистичного текстового контента. Футурологи уже пугают нас писателями-гениями на кремниевой основе из будущего, однако Мэтью Киршенбаум из The Atlantic видит более банальную, и вместе с тем реалистичную угрозу: совсем скоро нас захлестнёт тонна текстового спама, которую мы никак не сможем отличить от творений рук человеческих.
«Подобно ценным росчеркам пера каллиграфа, человеческий документ в Интернете может стать раритетом, который нужно будет курировать, защищать и сохранять. Тем временем алгоритмические основы общества будут оперировать текстовой базой знаний, которая будет становиться все более и более искусственной, ее истоки будут лежать в непрекращающемся движении языковых моделей. Воспринимайте это как спам планетарного масштаба, но в отличие от спама, для которого у нас есть более или менее эффективные средства защиты, может оказаться, что нет надежного способа отмечать и фильтровать следующее поколение машинных текстов. «Не верьте всему, что читаете» может превратиться в «Не верьте ничему, что читаете», когда это происходит в Интернете».
https://theidealist.ru/textapocalypse/
#TheAtlantic #технологии #СhatGPT #ИИ #интернет
