За много лет мы как-то привыкли, что Компьютеры оперируют числами, логикой и прочей абстракцией. И поэтому многие еще не осознали, что нейросетевой ИИ — не такой. Нейросети дают ответ на основании предыдущих знаний. Можно сказать, что современные нейросети — это модель ИНТУИЦИИ. Да, они могут писать програмный код, но делают они это на эрудиции, а не на размышлении. Можно скозать, что нейросети сейчас — гуманитарии, а не технари (хоть это и контринтуитивно).
Вывод из этого: гуманитарии могут писать крутой код :)
Архив рубрики: Мысли
Кстати, это доказывает существование путешествий во времени. Слово «самокат» явно придумал человек, видевший СОВРЕМЕННЫЕ самокаты.
С тех пор, как человек создал ИИ, Природа стала бабушкой.
Как работает астрология
Вот говорят, астрология не работает.
А вот представим такое. У человека все плохо, он идет к астрологу и тот говорит. «Потому что ретроградный Меркурий». И человеку становиться легче. Что же такое содержится в такой короткой фразе? На удивление много:
1. У происходящего есть причины.
2. Причины не зависят от самого человека. То есть, он не виноват, виноваты внешние силы.
3. Повлиять на причины невозможно. То есть можно ничего не делать. Более того, делать бессмысленно.
4. Со временем это пройдет. Можно расслабится и просто переждать.
5. Беды человека — это часть огромного механизма Вселенной. Ему плохо не просто так, в этом есть великий замысел.
И все это всего в двух словах. Круто же!
Так что работает астрология, просто не так, как все думают.
Этика для ИИ
Нынешний расцвет ИИ сопровождается страхами и мрачными пророчествами. Вспоминают Терминатора, Матрицу и прочие сюжеты по порабощению человечества роботами. Более взвешенные страхи говорят, что даже без злого умысла ИИ может сделать из всех людей скрепки просто потому, что у него будет задача делать скрепки. В очищенном виде мысль выглядит так. ИИ не обладает человеческой этикой, а значит действия его могут быть ужасными с точки зрения этой этики. И, конечно же, решение видят в том, чтобы ограничить или возможности ИИ, или возможности его взаимодействие с людьми.
Мне представляется, что решение ровно в обратном.
Давайте разберемся, почему у ИИ нет этики.
Модальности и смыслы
Интересно, что одни и те же смыслы в культуре в разных модальностях могут двигатся в разные стороны. Скажем, текст и изображение. У меня есть два примера на эту тему.
Во времена моего студенчества матом говорили гораздо меньше. В основном рабочий класс (ну и дети :). Девушки, инженеры, публичные персоны если и говорили матом, то только в тесном кругу. Услышать мат просто на улице было чем-то необычным. Сейчас же культура стала гораздо мягче. Матерятся почти все, это становится разговорной нормой. Недопустимое в обществе становится допустимым. Это в речи.
В то же время, в визуальной модальности всё движется ровно в противоположную сторону. После развала СССР, обнаженные фотографии стали нормой. Это было не только в России. По всему миру визуальное пространство было заполнено сексом. Но со временем мир начал табуировать секс все больше и больше. Сейчас для телевизора замазывают обнаженку даже в советских фильмах (а советский союз по поводу ханжества в сексе даже в поговорку вошёл).
Вот такое занятное наблюдение, как одни и те же смыслы в разных модальностях ведут себя по разному.
О том, как нейросети изменят всё
Последнее время все больше думаю о нейросетях. И не только я. Вот, например, этот ажиотаж (долго подбирал слово, решил взять нейтральное) на АртСтейшен, когда художники протестовали против нейросетей. И многие боятся, что нейронки сейчас убьют художников как вид. Но все еще драматичнее.
Лет 10 назад я читал прогноз, что через 30 лет все в мире будут делать роботы. И видимо, это так. Художники — это первая ласточка. Роботы смогут заменить человека во всех профессиях. Вспомните, кем вы работаете, и осознайте, что в ближайшие десятилетия робот будет это делать лучше. Причем последними сдадутся дворники.
Такой мир не сможет стоять на тех основах, что стоит сейчас. И потому он неотвратимо измениться. В целом, тот мир будет лучше нынешнего, человек освободиться от «надо» и будет делать что хочет. Но переходный период может сопровождаться социальными потрясениями.
Но вернемся к художникам и их страхам Читать далее
Формула красоты
Есть еще одна причина, по которой нам нравятся изображения нейросетей. Нейросети используют (ненамеренно) формулу красоты.
Про то, почему нам красиво, никто, кроме меня, толком не знает. Но я вам расскажу.
Есть два источника красоты. Биологический и эвристический (который тоже растет из биологии но иначе). С Биологической красотой все понятно. Нам кажется красивым то, что полезно для выживания и размножения. Человек противоположного пола, дети, еда…. А вот многоножек большинство не считают красивыми. Но красоту многоножек можно увидеть, если посмотреть на них с точки зрения второго вида красоты.
У нейросетей, которые пишут тексты есть существенный баг. Совершенно непонятна достоверность информации. Они правдоподобно ответят на вопрос, даже если ответа у них нет. Спросишь про периметр (или даже про площадь) пятиугольного треугольника — ответит
Если же попросить привести пруф на какой-то факт, может привести реальный, а может выдать правдоподобно выглядящую но никуда не ведущую ссылка, или вполне достоверно смотрящуюся отсылку на несуществующую научную статью в журнале.
Но. Многие этого еще не поняли, но это хорошая новость. Потому что ставит перед разработчиками задачу автоматической верификации. Что-то подобное было описано у Нила Стивенсона в «Анафеме». Чтобы нейросеть могла не просто рассказывать о чем-то, а приводить релевантные пруфы, и выдавать разные точки зрения если их несколько с оценкой их достоверности (как в хороших статьях Википедии)
А эти системы верефикации могут оказатся сами по себе даже более полезными, чем сами текстогенераторы. Так что их можно будет использовать самих по себе для проверки любой информации.
#нейросети
Крипта
Подумалось, что крипта не просто так упала.
Некоторое время назад все сокрушались, что видеокарты стали неоправданно дорогими, из-за того, что их используют для майнинга.
Но не осознали, что помимо прочего, это значит, что стоимость крипты привязалась к стоимости железа для ее производства. А поскольку железо имеет реальный потребительский спрос, то именно оно будет устанавливать цену для крипты, а не наоборот.
То есть крипта сейчас — не абстрактные цифровые монетки, а валюта, привяканная к конкретному товару, и будет меняться с изменением стоимости этого товара.
И опять Credo
С давних пор меня ставик в тупик вопрос, кто ты, чем ты занимаешься. Я обычно не знаю, что ответить. Иногда даже придумываю какую-то версию, например «учитель астрономии», хотя именно астрономию я никогда не преподавал.
Потому, что честный ответ ничего не объяснит спрашивающему. Он звучит как «эмиссар других реальностей». Проводник в другие миры.
Смысл жизни
Я тут в очередной раз понял смысл жизни :)
Начнем, пожалуй, с бабочек книг.
Вот какой смысл жизни у книги? Для разных — по разному. Но если попытаться все-таки нати для тех, у которых он есть. Сюжет, характеры, язык — это все пути, которым достигается смысл. Этого может и не быть (в одних смысл образуют картинки, в других — разговоры.) И что же тогда делает существование книги осмысленным?
Все просто. То, что она классная!
Вот так же и с людьми.
Куда приводит антропный принцип
Времени не существует.
Именно так я хотел начать статью о том, как время можно вывести из антропного принципа. Однако, при дальнейшем рассмотрении этого вопроса, стало понятно, что с помощью антропного принципа можно объяснить вообще всё! Читать далее
Дихотомия добра и зла
Многие считают, что добро и зло — относительны. Это верно только во время войны. Тогда «у нас разведчики у них — шпионы» с каждой из сторон.
В мирное же время эти понятия — абсолютны. Добро и зло — это стратегии поведения. Стратегии в том смысле, в котором об этом писал Докинз. Он описывает эксперименты с состязанием различных програм, которые могут или сотрудничать или конфликтовать. Выигрывают программы, которые стремятся к сотрудничеству но при этом помнят и тех, кто против сотрудничества.
Собственно, добро — это сотрудничество, где выгоду получает не только тот, кто делает действие, но и другие (или, по крайней мере, не приводит других к потерям). А зло — это действия, от которых другим плохо. Никакой относительности :)
Человек, живущий на Луне в полном одиночестве, не делает ни добра ни зла. Но таких людей мало, чаще человек существует в социуме. Как правило, сообщество, состоящее из злых людей — нежизнеспособно — все просто перебьют друг друга за ресурсы. Что бы этого не произошло, приходится как-то договариваться между собой, и учитывать при своих действиях других. Так среди зла возникает добро. Сообщество, целиком состоящее из добрых людей в принципе вполне жизнеспособно. Но, уязвимо для зла. Например, бывают города, где двери не запирают. Если в таком городе появляется вор, он оказывается в выгодном положении относительно других, его стратегия оказывается выгодной. И со временем число таких воров растет. Но это число не может вырасти выше определенного уровпя, потому, что если уровень грабежей станет слишком большим, начнут принимать против этого определенные меры. Таким образом устанавливается некоторое процентное соотношение между добром и злом. И это соотношение — устойчиво. Ни добро ни зло не может победить полностью.
Замечу еще, что поскольку добро самодостаточно, а зло не может без добра (вору нечего будет красть, если все воруют и никто ничего не производит), добро всегда побеждает.
Абсолютное добро не является самой выигрышной стратегией. Описанные выше эксперименты, показывают, что наилучшие стратегии это те, которые перестают сотрудничать если не сотрудничают с ними. Переводя на язык этики, можно сказать, что над добром стоит справедливость. Но и это не последний этаж. Над справедливостью — милосердие. То есть, если кого-то справедливо наказать, то часто лучший результат в выживании социума получается, если его не наказывать.
Так что, идеальная стратегия такова. Добро, справедливость, милосердие. И это не какие-то абстрактные принципы, это просто чисто математически наилучшая стратегия жизни в социуме.
Андромеда
Пришло в голову, что поскольку Андромеда была дочерью царя Эфиопии, то она должна быть чернокожей. Как и ее родители, Цефей и Кассиопея.
Погуглил, инфы про это мало. Но нашел одну работу, где говориться, что есть версии, где ее считают черной, и те, которые ее считают белой (есть два основных варианта, где Андромеда эфиопского происхождения, и где — азиатского). Например, Овидий описывает Андромеду как девушку с черной кожей.
Есть и более экзотические варианты. Например, есть изображения, где Андромеда и Кефей белые, а их подданные — черные. Или есть вариант, что ее родители были черные, а она, к удивлению матери, родилась с белой кожей.