1956

Генератор правдоподобного бреда

Наткнулся на нейросеть, которая умеет генерировать английский текст на любую тему, очень похожий на настоящий - https://talktotransformer.com/. Можно ввести несколько слов или предложений и компьютер напишет продолжение на эту тему. Попробовал повводить разное, кое-что показалось забавным, решил перевести и поделиться. Жирным выделено то, что я вводил, остальное - сочинение нейросетки.


Тексты часто неожиданно обрываются. Насколько я понял, эта штука не предназначена для написания чего-то законченного, т.к. она умеет только предсказывать следующее слово, учитывая предыдущие.

Перевод (как смог, сильно не пинайте):


Земля захвачена котами-пришельцами.

Злобные коты веками преследуют землю, пытаясь установить её точное местонахождение. Они используют свою огромную силу, чтобы превратить людей на планете в котов.

Но пришло время вернуть котов домой. Злобные коты должны быть уничтожены. Население планеты будет спасено. И там будет особенная кошка.


Имя этой кошки - Фирюза, так её назвал сценарист фильма, Крис Коламбус. На историю Фирюзы автора втохновила история дикой кошки и её напарника-человека, который спас её и привёз в боливийскую деревню, где она и прожила свою жизнь. В начале фильма Фирюза путешествует сама по себе. Её история охватывает континенты, машину времени и её родную планету.


"Мы знали, что мы хотим историю про кошек, про то, как они влияют на людей и про мир, который никогда не будет прежним. Для нас было важно, что мы нашли...

У нас много людей здесь, на Пикабу. Люди Пикабу чрезвычайно сильны и являются одними из самых страшных бойцов в мире. Нация Пикабу очень богата духом и духовной жизнью. Это мирные люди, которые чрезвычайно мудры и очень духовны. Вы можете поговорить с ними, и они всегда будут слушать вас. Если вы ищете племя с сильным духовным ядром, это племя для вас. В Пикабу есть очень мощный тотем, Громовая Птица. Говорят, что он защищает общество и все живое. Он также является покровителем духа племени. Особое внимание уделяется Громовой Птице, и это одна из самых важных вещей, которые нужно знать о жизни Пикабу и их культуре. Племя Пикабу - очень маленькое племя. Они не сильны в насилии и не имеют больших военных отрядов. Они предпочитают сражаться с луком и стрелами. Племя предпочитает выходить небольшими группами,

Учёные выяснили, что средний размер пениса пикабушника равен 49.5 сантиметрам.


Однако, средний размер ануса пикабушника - всего лишь около 25 сантиметров.


«Единственное отличие состоит в том, что размер ануса пользователя Пикабу примерно на 25% меньше», - сказал он.


Доклад профессора Ягучи был опубликован в июньском выпуске Международного журнала сексуального здоровья.

Вы смотрите срез комментариев. Показать все
1
Поджигатель поп
Автор поста оценил этот комментарий
The US is destroying democracy around the world. The current administration is working in cahoots with the CIA and the US military to destabilize and destroy Syria . This is the third major Middle East war in the last decade . The US is directly responsible for the deaths of over 70,000 Iraqis. And now the US is directly responsible for the deaths of over 100,000 people in Syria . This administration is responsible for the collapse of the Syrian economy and the deaths of over 300,000 people. The regime change policies in Iraq, Libya, Syria and other Middle East countries have directly led to the proliferation of Islamic terrorism in the West. It is no coincidence that many of the Middle East terrorist attacks in the West have come from areas controlled by terrorist groups funded and armed by the US.
The US government has declared war on ISIS. If you are thinking this is the stupidest thing I have ever read in my life you are

Вот пример. Он ссылается на цифры. И почему то написал про игилу. Значит база, на основании которой он строит тексты имеет статьи, где похожие выражения упоминаются в контексте сирийской войны.

раскрыть ветку (28)
2
Рыжее лето
Автор поста оценил этот комментарий

Он точно на чем-то основывается, но он то ли рандомизирует, то ли что...

Пример - скармливаю ему стандартное начало программы на плюсах:

Include <iostream>


что получаем:


Include <iostream>
if ( ! std :: is_nothrow_move_constructible_v<T> )
{
template < typename T, typename ... Args>
using MoveConstructible = typename std::enable_if<T::value_type == typename std::declval<Args...>::type,
bool = is_nothrow_move_constructible_v<T>::value &&
is_nothrow_move_assignable_v<T>::value &&
is_nothrow_move_assignable_v<T>::value>::type>;
}
else if ( ! std :: is_nothrow_move_assignable_v<T> )
{
template < typename T, typename ... Args>
using MoveAssignable

Инструкции вроде не рандомные, явно из языка программирования, но смысл....

раскрыть ветку (27)
2
Автор поста оценил этот комментарий

Возможно, определяет в тексте "главное" слово и заменяет его на другое, которое берёт из текущего контекста. Вряд ли, конечно, настолько просто, но это может быть один из механизмов.

раскрыть ветку (25)
Автор поста оценил этот комментарий

Так прикольно наблюдать ваши гипотезы  об устройстве нейросети. Это как наблюдать за аборигеном, который пытается разобраться как устроен космический корабль.

раскрыть ветку (23)
6
Автор поста оценил этот комментарий

Мне вот интересно, а вы с вашим высокомерием сможете объяснить алгоритмы, которые образуются в нейросети после её обучения? Не основы вроде "сеть нейронов, функция активации", а именно то, почему в результате обучения получается так, а не иначе?

раскрыть ветку (22)
0
Автор поста оценил этот комментарий
В нейросети не образуется алгоритмов, если исходить из стандартного определения алгоритма. С бытовой точки зрения нейросеть ближе к аналоговому устройству. Получил сигнал на входе - выдал соответствующий сигнал на выходе. Без осмысления промежуточных данных.
раскрыть ветку (12)
2
Автор поста оценил этот комментарий

Но ведь процессоры не умеют выполнять то, что не является алгоритмом. По сути нейросеть с весовыми коэффициентами - это огромная формула, значение которой можно посчитать как значение функции от входных сигналов. Значит, существует алгоритм, по которому можно вычислить это значение. Я об этом.


То есть, грубо говоря, в результате обучения нейросети мы находим коэффициенты формулы, которые позволяют нам решить задачу с требуемой точностью на тестовой выборке. Формула с коэффициентами является решением задачи и её значение при определённых входных данных рассчитывается по определённому алгоритму.

раскрыть ветку (11)
0
Автор поста оценил этот комментарий
Маленький парадокс. Процессор исполняет алгоритм, но не все, что исполняется на компьютере - алгоритм. К примеру, можно слушать на компьютере "Времена года" и это не алгоритм.
раскрыть ветку (10)
0
Автор поста оценил этот комментарий

Сама композиция - не алгоритм, а вот данные, например, в MIDI-файле, который её воспроизводит вроде бы подходят под определение алгоритма, т.к. это набор высокоуровневых инструкций, который позволяет получить решение задачи воспроизведения звука для этой композиции.

Если взять формат WAV, то тоже можно сказать, что это алгоритм в виде "установи такую-то частоту дискретизации", далее на каждом шаге работы цифро-аналогового преобразователя "установи такое-то цифровое значение уровня сигнала".

раскрыть ветку (9)
0
Автор поста оценил этот комментарий
В таком случае вы тоже алгоритм. Потому что любое ваше действие выполняется по условию и определенным образом.
раскрыть ветку (8)
0
Автор поста оценил этот комментарий

Ну, под определение в англоязычной Вики я точно не подхожу, т.к. там указано, что алгоритм должен состоять из инструкций, выполнимых компьютером и должен выражаться на формальном языке, используя конечное количество времени и места.


Последовательность цифровых сигналов, которую точно определено, как нужно обрабатывать, можно назвать выражением на формальном языке, физический объект - нет. Зато модель физического объекта в контексте какой-то задачи, насколько я понимаю, можно.

раскрыть ветку (7)
Автор поста оценил этот комментарий

Никто не может на данный момент.

раскрыть ветку (8)
2
Автор поста оценил этот комментарий

Тогда мы все обречены быть аборигенами в этом отношении.

раскрыть ветку (7)
1
Автор поста оценил этот комментарий

Это не бинарная вещь - есть разные степени понимания.

Скажем, ученый из начала двадцатого века может и не может сказать точно, на чем конкретно летает именно этот космический корабль, но если он читал Циолковского он может предположить, что по принципу реактивного движения используя какое-то химическое топливо, а не на молитве, как думает абориген.

Ну а ваши предположения про "алгоритмы которые там образуются после ее обучения" смахивают на "работает на молитве", поэтому я и сыронизировал. Извините, если задело.

раскрыть ветку (5)
0
Автор поста оценил этот комментарий

Скажите, а в чём принципиальная ошибка? Результат обучения нейросети не может быть представлен в виде алгоритма? Сомневаюсь, что это так.

Да, объяснить их взятием примера текста и заменой - это очень большое упрощение. Да, внутри там, насколько я понимаю, активация нейронов, отвечающих за стиль изложения, за способ построения предложений и другие концепции, которые нейросеть выявила в результате обучения, а результат - выбор следующего слова на каждой итерации.

Тем не менее, насколько я как неспециалист понимаю, нейросеть может "запомнить" текст и обучиться в том числе замене понятий в тексте.

Где я не прав?

раскрыть ветку (4)
2
Автор поста оценил этот комментарий

Вы абсолютно правы. Нейросеть может обучиться заменять слова, но конкретно эта была обучена на терабайтах данных и даже несмотря на её огромный размер никак не могла заучить целые отрывки текстов. Но маленькие части реальных текстов она все же может выдать, если встречала их достаточно часто.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Да, может быть я сильно упрощаю и ошибаюсь в конкретике, но не вижу ничего такого, что бы делало @valergrad таким сверхразумом по сравнению со мной, как он это описывает.

0
Автор поста оценил этот комментарий
а, внутри там, насколько я понимаю, активация нейронов, отвечающих за стиль изложения, за способ построения предложений и другие концепции

Вот неверно понимаете. Нет там никаких специальных нейронов "отвечающих за стиль изложения", "за главное слово" и прочее. Нейроны в данном случае просто чиселки-коэффициенты с которыми этот нейрон связан с другими нейронами. Да, можно попробовать сделать утомительный анализ и сказать "я вот тут вижу что нейрон 137 второго слоя активируется если речь идет в будущем времени", но в реальности скорее всего анализ даже второго слоя не даст ничего - не будет четко выраженных человеко-понимаемых зависимостей, каждый нейрон будет казаться большим набором разных частных несвязанных дру с другом случаев.

Анализировать же нейроны третьего и последующих слоев - вообще голяк.

Таким образом, эти нейроны может и выражают какие-то высокоуровневые концепции, но это их собственные концепции, которые человек не поймет, а даже если бы понял не смог бы выразить словами т.к. маловероятно что эти концепции и наш язык имеют пересечение. Этим отличаются современные "свободные" архитектуры сетей от ранних вариантов - когда люди действительно строили архитектуры сетей заранее подразумевая что "этот нейрон будет отвечать за такую концепцию, этот - за такую" и пр. Этот подход оказался менее перспективным чем создать простые правила для связей и разрешить сети самой решать, что за что отвечает. Но при этом нет возможности "понять" результаты сети.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Но я и не писал, что за концепцию отвечает один нейрон или есть нейроны, которые отвечают только за одну человекопонятную концепцию, но если нейросеть может различать эти концепции, значит какое-то суммарное состояние нейронов за неё должно отвечать и вряд ли это состояние размазано по всей сети, т.к. тогда реагирование на одну концепцию мешало бы реагированию на другие, хотя и так может быть. И да, говорить про нейроны, которые отвечают за концепции - это обывательское упрощение, наверное неизбежное в процессе осознания того, как это работает, если сразу не погружаться в спец. литературу.


Это, кстати говоря первое сообщение, которое показывает, что вы в этой теме разбираетесь лучше, чем я. До этого были только заявления и сравнения в стиле Шелдона Купера, отсюда и соответствующая реакция на них.

0
Автор поста оценил этот комментарий

Нейросеть сама строит алгоритм) в этом её замысел

Автор поста оценил этот комментарий

Просто берёт одно из слов и вставляет текст в котором оно есть, чисто где больше совпадений

http://prntscr.com/py044w

0
Автор поста оценил этот комментарий

Он даже понимает, что react - про js,  aiohttp - про питон и т.д.

Вы смотрите срез комментариев. Чтобы написать комментарий, перейдите к общему списку

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества