Трансхуманизъм, търсене на Аз-а и футурологична сингулярност

Here be unicorns. И музика и филми, вдъхновени от човешките ни книги. И всичко, дето ви е на сърце, ама не може да се побере в ^такива^ тесни теми...

Трансхуманизъм, търсене на Аз-а и футурологична сингулярност

Postby Radiant Dragon » Mon Jan 08, 2018 11:21 am

...и къде да научим повече за тях във фантастиката, науката, личният опит и други информационни канали, налични във Вселената.

(Темата се отваря по предложение на трети лица.)

Някои от вас знаят, че се интересувам от гореизброените неща (както и много други) от няколко години насам. Иронията е, че започнаха живо да ме вълнуват едва след като написах НФ роман. Тоест, прогностиката на технологиите и бита ме вълнуваше и преди това, но след 2012-а нещо "щракна" в мен (не помня сега какво точно) и започнах да разсъждавам по темите на съвсем друго равнище и в много повече плоскости. Може би просто съм остарял. :)
(То тогава уж и светът свърши...)

Та. Както писах, темата се отваря по предложение всичкото инфо, което аз и други хора имаме по въпроса-тема-дискусия, да се концентрира тук и да го има за рефенренция в бъдеще.
По тоя повод, след малко (или в рамките на деня) ще направя списък с моите дефиниции "Що е трансхуманизъм и тн.", за да се знае какво конгрегираме тук. Вашите собствени тълкувания са добре дошли. :)

Защо "след малко"? Ами защото сега трябва да keyboard warrior-ствам и по други виртуални земи, а и мисълта ми тече по-трудно в словесна/писмена форма тия дни, така че моля за търпение! :geek:

ЕДИТ -- Малко повече време мина, случва се. Започвам.

Схематично нахвърлям характеристиките, от които една или повече трябва да присъстват, като ги добавям в ad-hoc вариант, без оглед кое е по-"важно" от другите:


#. Генетични и структурни модификации на физическата (телесната) форма от страна на човечеството, с цел подобряване стандартите на живот и/или придобиване на нови способности в посока адаптивност/свръхумение; (честно казано, този показател досега не съм го виждал с извънземни?... може би защото авторите често ги правят априори физически превъзхождащи хомо сапиенс)

#. Като горното, само че за ума - усъвършестване на невронните връзки, увеличаване способността за анализ до свръхчовешки нива, укрепване и "циментиране" на паметта, повишаване на когнитивните способности и тн. - а също така и mind-uploading, дигитализация на личността (въпреки че тук има едно голямо "НО"), прехвърляне на съзнанието на изцяло синтетичен носител, копиране на съзнанието;

#. Имплантите, под всякакъв род и форма, като начин за базово/quick-n'-dirty извършване на горните процедури и други;

#. Ускоряване на еволюционното развитие на чужди организми или собственият вид - т. нар. uplifting и пост-хуманизъм; (въпреки че първото често е насочено само към това да се даде "човешки" разум; а какво ли би станало, ако е просто ускорение на еволюцията, без намеса в посоката? Я, дочете ми се нещо на тая тематика...)

#. Всякакво наличие на "истински" ИИ (т. нар. strong AI), което не тотален Omnicidal Maniac (роботите Interstellar, макар не истински ИИ, са много симпатичен пример), а ако ще е Omnicidal Maniac, да има добра причина за това и разбира се, всичко in-between - за разум говорим все пак!

#. Както Кал споменава в долния пост в примера с Зиндел, много ключови са също така творби, които са КОНТРАПУНКТ на всичко, което е включено в този списък - в крайна сметка, още не си знаем на 100% "вселенският потенциал", тъй че редно ли е да бързаме да го изменяме? Въпрос-дискусия, не аргумент по линията "за-против";

#. Реалистично (ще рече обстойно и с множество проследени и екстраполирани фактори) разглеждане на междузвездни и/или галактически общества (и отвъд) и/или междуреалностни такива, с широк поглед върху основополагащите "Къде, Какво, Как, Кой, Защо?";

#. Нещо важно! - технологии (като в тази дума се включва всякакво ЗНАНИЕ), които са базирани не на "твърда наука" (но не пречи да се в синхрон с нея), а на визионерство и размах в мащаба - което ще рече, да, приказната фантастика също може да отговаря на критериите на тази тема! :)

#. Душата, фините и "скритите" енергии, коренът на Аз-а, света на "невидимото" и тн. - тези неща твърде рядко се засягат, а са не по-малко ключови в осмислянето на Съществуванието (и се съдържат в горното "НО" по отношение на дигитализацията и копирането на личността);

#. Изследване на психологическият ефект и ефекта върху мирогледа, което всичко гореизброено в безкрайните си комбинации ще предизвика у едно общество и неговите индивиди;

#. И така нататък - ако аз или вие се сетим още нещо, ще го добавя към списъка.


Много оплетено ли стана?
Last edited by Radiant Dragon on Tue Jan 09, 2018 12:25 pm, edited 2 times in total.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Mon Jan 08, 2018 12:31 pm

Третото лице веднага дава своя литературен принос ;):

Поредицата A Requiem for Homo Sapiens на Дейвид Зиндел според мен е задължително четиво, защото задава въпроси към трансхуманистите, които те невинаги се сещат да си зададат: например наясно ли сме с всички възможности на човешкото тяло, преди да решим да го сменяме с някакво друго?

Интересна ми беше и Human+ на Martin Higgins, макар че не проникна достатъчно дълбоко.

От родните автори на прима виста се сещам за „10 на минус девета“ от Ники Теллалов с нейното изследване на свободата, която нанотехнологиите биха ни предоставили; и раздела „Киберпънк с човешко лице“ в „За спасяването на света“ – поне „Да обичаш Сам Сама“ там се занимава с видоизменени човеци, сравнявайки две възможни посоки на еволюция.

Има още примери, но тях ще ги оставя на Вик, който първоначално ги спомена в имейл.

User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Mon Jan 08, 2018 11:24 pm

Ха, гле'й ся к'ви смехории, ще праскам примери преди да съм уточнил дефинициите в opening post-а. :mrgreen:

Ама тъй ми се получи деня, така че поне някакъв интелигентен принос да дам сега.

Благодарение на Кал, съм запознат със Зиндел. Какво още:

Скрит текст: покажи
NB: Голяма част от примерите, които ще дам, не съм имал личното удоволствие да ги прочета. Знам, странно е, но през последните години аз "индексирам" огромно количество автори/заглавия/проекти, обаче трудно започвам нещо заради analysis paralysis феномена; надявам се това да го променя в близко бъдеще.


- The Culture поредицата на Iain Banks - води се дефинитивната поредица на тема "класически трансхуманизъм": супер ИИ-та и телесно-мисловни модификации на поразия, хипер-галактическо общество (т.нар. "Култура"), сюжети занимаващи се със съдбите на цели общества и тн.

- Blindsight и The Rifters Trilogy на Peter Watts - първото е ултра-извъртян сюжет на тема "Първи контакт" и като гарнитура включва опит за прилагана на hard science върху хипотезата за съществуването на вампири (!), а второто още не съм го почвал, но ми хвана окото, защото става дума генно-модифицирани обществени аутсайдери, които бачкат геотермални станции на дъното на океана

- The Uplift novels на David Brin - честно казано, не знам защо Кал сам не направи това предложение; достатъчно ми е рекламирал Брин, че да го включа, въпреки че моят личен research по творчеството му не ме спечели (Оказва се, че Брин е автора на The Postman - WTF, екранизацията е един от любимите ми филми евър!!!)

Толкова на тема художествена литература и толкова засега, изчерпах си прима вистата.

Ама после ще прасна и един пост за Eclipse Phase.

Филми? Хмм, сещам за Гатака (класика) и... май т'ва. Паметта ми определено отказва по-нататъшно сътрудничество. Може би защото всъщност толкова ми е богата културата. Ще си помогам с нета и ще размишлявам и така.

За финал, да не е съвсем сухо, макар че повече избива в посока good ol' space opera, ей този блог пост и придружаващите го след това коментари във форума бъкат от предложения и са добър трамплин за brain storming:

A Starsector Reading List
(Самата игра също я бива, мжд...)
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Mokidi » Wed Jan 10, 2018 11:47 pm

Офтопик: Книгата на Брин (Пощальонът) е около осем пъти по-добра от филма. И много, много по-фино написана. Препоръчвам.
По топика: "Рифтърсите" е значително по-голяма супа от "Слепоглед", но е много яка трилогия и мисля, че на теб особено пък ще ти хареса. Освен хирургически-модифицираните плувци за големи дълбочини включва страхотни компютърни вируси и биопрограмируеми компютри, и какво ли още не (направо ирландска яхния), много политика и футурология, абе - разкош. Но предупреждавам, че е също толкова клинична и студена като всичко друго на Уотс - НЕ става за Кал и Ко.
Бих включила към подборката Чарлс Строс, по-конкретно Freyaverse поредицата, за "андроидно" човечество, което си е изгубило хората.
Пак тук е мястото и на изумителната Алиет де Бодар, която никой не ще да издава у нас :( , On A Red Station, Drifting е извънредно интересен пример.
Естествено тук е мястото и на Алистър Рейнолдс и "Домът на слънцата" със спейс-опера за пътуващи в хибернация кланове от клонинги и интересните ИИ-та на корабите им, машинни цивилизации и т.н. Рейнолдс има и други такива разсъждения в подобни посоки, едно от най-любопитните е Diamond Dogs, Turquoise Days. Също препоръчвам.
Според мен тук пада и Хану Раяниеми (или както там се чете) с The Quantum Thief, но така и не мога да се заставя да го чета.
И последно, че ми се доспа, добавям Паоло Бачигалупи - не само с "Момиче на пружина", но и с много по-интересната му "юношеска" (да се разбира - по-опростена и емоционална) трилогия Ship Breaker (Ship Breaker, The Drowned Cities, Tool of War). Третата тепърва чета и определено е... еха.

User avatar
Mokidi
Global Moderator
 
Posts: 351
Joined: Wed Sep 14, 2011 9:26 pm
Has thanked: 300 times
Has been thanked: 489 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Nasko » Wed Feb 14, 2018 12:21 am

По темата сингуларност силно ти препоръчвам „Кървава музика“ на Грег Беър.
----------------------------------------------------------------------------------------------------------------------------------------------------------

Nasko
Global Moderator
 
Posts: 30
Joined: Thu Feb 21, 2008 7:42 pm
Has thanked: 1 time
Has been thanked: 35 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby valentindivanov » Wed Feb 14, 2018 8:17 am

Забелязал съм, че в НФ има две направления на трансхуманизма.
Едното е базирано на технологичната сингулярност, такава, като
я описва примерно Виндж в неговото есе от 199? година. А другото
е биологично, и примерно нещо подобно има описано в (май) "Слан"
на Ван Вогт. Границите между технологията и биологията са размити,
но нещата не опират само до там, ами до това дали каквото дойде
след човека в съвременната му форма е неще друго и съвършенно
ново, или ще е развитие на самия човек.
Коменатът ми може би е малко тангенциален, но така да се каже
държа да напомня, че не е задължително трансхуманизмът да е с
"човешко лице".

valentindivanov
 
Posts: 18
Joined: Mon Mar 18, 2013 4:24 pm
Has thanked: 0 time
Has been thanked: 28 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Thu May 24, 2018 9:16 pm

Покрай един разказ на Юли Новакова се роди следното:

Кал wrote:(...) My main issue with
long-living humans seems to be: will they spend their energy and time
honing their inner world? Let me give you an example: I've been
practicing aikido, on and off, for fifteen years. It took me only a
few years to realize that reaching perfection in aikido is an
unattainable goal: you _always_ find out more about the limits and
potential of your body. You can tweak every movement, come up with new
movements, all the time. And even if you ever run out of new physical
aspects (which I do not believe is possible, but I'm aware we haven't
had enough time to experiment with it ;), you keep developing your
inner energy, your _chi_. Great masters of aikido can sense the
movement of another person before the person has started moving. (This
may sound like hogwash to you, but then we're going into our
conversation about "extraordinary claims require extraordinary
evidence" and cultural biases: are the same claims considered
"extraordinary" across different cultures?) So, we can say that aikido
doesn't have a final goal. It's more like an endless road.

Now think about meditation. Or rational self-reflection. Or any of the
other types of self-improvement. Does self-improvement have a final
goal? Doesn't it sound like a worthwhile pursuit for those who have no
end themselves? And why do we see _these_ kinds of long-lived humans
so rarely in fiction? :)

User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Sat May 26, 2018 10:10 pm

Кал wrote: Does self-improvement have a final
goal? Doesn't it sound like a worthwhile pursuit for those who have no
end themselves? And why do we see _these_ kinds of long-lived humans
so rarely in fiction? :)


Моите две ст'инки:

- Не виждаме, защото самите автори често пишат механично в избрания жанр (а в един имейл бях писал и защо все по-рядко избират "рационалния" sci-fi жанр) и не екстраполират логичните последствия от дадени фактически положения/феномени;
- Защото егоизъм. Пояснявам: хората - поне тези, които живеят "сега" - често се стремят към нещо извън тях, тоест към някаква цел, която в крайна сметка не е пряко свързана с тях - да оставят завет, да променят света около себе си, да се забавляват (до безкрай?...), или просто да имат нови преживявания. Един проблем може да е факта, че сега мнозинството разсъждава така, а ние до голяма степен наблюдаваме света около себе си когато пишем, така че може и да въпрос на неподходящи "лабораторни" условия;

Според мен, за повечето ще бъде въпрос на доколко самоусъвършенстването се разглежда като цел или като път. Ако е първото, да, тогава "безсмъртните" на бъдещето ще са изцяло съсредоточени само в него; ако обаче е второто, тогава, дори да се отделя специфичен фокус от време на време, ще бъде оставяно това вътрешно съвършенство да идва "естествено" с прогреса на индивида в тяхната лична съдба сред Космоса.

(Последното изречение стана оплетено.)
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Tue May 21, 2019 10:21 pm

Напоследък наблюдавам у себе си една консервативна тенденция все повече да се съмнявам, че през следващите 50-100 години ще видим истински изкуствен интелект (по дефиницията за artificial general intelligence). Главно заради осъзнаването ми колко малко знаем всъщност за начина, по който работи мозъкът (демек за естествения интелект).

Но Гого Гюров ме разтърси сериозно със следните три демонстрации:

- новият го шампион AlphaGo и неговите наследници (които вече мачкат StarCraft)

- роботите на Boston Dynamics

- дебатът между Project Debater и жив човек на тема „да субсидираме ли детските градини?“

Ще се пропука ли консерватизмът ми? Не знам. Знам само, че се нахилвах все по-широко, все по-захласнато, докато четях и гледах...

User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Григор Гачев » Thu May 23, 2019 2:09 am

Това, което си гледал, са все още по-скоро играчки. Но до максимум около десетина-петнайсет години ще започнат да се появяват опитни образци на неща, които вече сериозно ще повдигат вежди. А до максимум 10 години след това ще дойдат и неща, които ще са, меко казано, плашещи - например интелекти с мощ извън човешкия хоризонт на разбирането.

По-интересното го казва един мой анализ - тези последните твърде вероятно ще са не изкуствени интелекти, а асистирани интелекти. Което на теория е по-добро и по-безопасно, но на практика разликата хич няма да е голяма, включително където я очакваме да е. А в някои отношения могат да са и по-опасни.

Това обаче е дълга, ако и МНОГО интересна тема...
Quidquid Latine dictum sit, altum videtur!

Григор Гачев
 
Posts: 23
Joined: Thu Feb 07, 2008 2:05 am
Has thanked: 6 times
Has been thanked: 47 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Sat May 25, 2019 11:22 am

Прехвърлям разговора от пощите ни:

Nasko wrote:Всички игри са базирани на победа на една система над друга. Такива постижения на ИИ са естествени за самоoбучаващите се генетични алгоритми. Така е и имитирането на движения от роботи.
Но истински интелект, аналогичен на човешкия, може да има само ако програмата се научи да различава значението от смисъла на думите.
Ти пръв ще констатираш това, ако прецениш някой машинен превод за неотличим от човешкия.
Тук е входът към решаването на етическите проблеми и целеполагането на личността.
Едва тогава ще можем да приемем раждането на новата форма на разум.


Кал wrote:Наско, третият линк съдържа дебат между машина и човек на социална
тема („да субсидираме ли детските градини?“), в който машината
формулира тези, привежда примери в тяхна подкрепа и (!!!) различава
тезите на опонента си, а после изгражда контратези. Въпреки че
публиката присъди победата на човека (вероятно заради емоционалното му
блещене и жестикулиране :D), аз харесах повече аргументацията на
машината...

(Още по-интересното е, че човекът на няколко пъти прави смислови
грешки при постройката на изреченията си – започва да казва нещо,
сбърква важна дума, поправя се; или първо казва, че нещо е еди-как си,
после се поправя, че НЕ е еди-как си. Може би умишлено? В последващите
обобщения на машината като цяло не чух сбъркани интерпретации какво е
казал човекът. :-О)
User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Nasko » Sat May 25, 2019 2:46 pm

Нека правим разликата: За интелектуален помощник ли говорим или за разумна личност базирана на небиологичен носител?
Засега всички успехи са в територията на първото - интелектуални инструменти за решаване на задачи поставени от човека.
Цялата тънкост е в това дали ИИ могат сами да си поставят цели. Тук започва границата на човешките страхове - ами ако си постави цел противоположна на моята?
Това и при интелектуалните помощници е възможно - Една ИИ експертна система управляваща голям комплекс от машини разположени на различни места, за да работи трябва мигновено да взема предвид хиляди фактори и и взема решения. Наблюдаващия човек няма да има възможност да прецени дали тези решения са верни и дали не са насочени срещу човешките интереси.
Това вече пряко засяга логическите пътища чрез които осмисля реалността, но това е научна тема... за по-напреднали.

Nasko
Global Moderator
 
Posts: 30
Joined: Thu Feb 21, 2008 7:42 pm
Has thanked: 1 time
Has been thanked: 35 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Григор Гачев » Sat May 25, 2019 3:38 pm

Един от проблемите с този подход е, че естествена граница между интелектуален помощник и разумна личност не съществува. По средата има едно постепенно преливане, където нещата са в някаква степен и двете.

Друг от проблемите е, че разминаването на целите при поставяне на цели е широко застъпен проблем и сред естествените интелекти. Пример: нашите политици очевидно си поставят цели, различни от нашите и вредящи на нашите интереси. Колко колосална е вредата може много лесно да се прецени, като се сравни България с подобна по размер, история и развитие страна - примерно Словения или Чехия.

Трети проблем е това, което за себе си наричам „синдромът Мефисто“, по разказа на Асколд Якубовски. На нормален език: когато един човешки интелект се сдобие с твърде могъщи помощници, той лесно започва да си поставя цели, твърде различни от тези на „неаугментираните“ хора, и игнориращи техните. Опитите ми за анализ показват, че той започва да се доближава много до чисто изкуствен ИИ със същата мощ.

За мен може би най-опасната ситуация е тази, в която по-силен интелект зависи от ресурси, контролирани от по-слаби интелекти. Именно тогава е, когато той се изправя пред необходимостта да изкривява и формира тези по-слаби интелекти за своите цели, да им отнема свободата. А най-страшното е, че това е реален сценарий дори когато интелектът е по-силен само в тясна област. Пример: иначе не особено умни, но напреднали в социалното инженерство разузнавания заливат света с инженерирани фалшиви информации, за да превръщат хората в свои „активи“ (управляеми марионетки). От видяното досега това е изключително успешна тактика.

(Потенциалът ѝ за успех много лесно се демонстрира на невярващите чрез пробни допитвания. „Безпокои ли ви, че питейната вода в София съдържа два пъти повече водород, отколкото кислород?“ „Бихте ли забранили употребата на дихидрогенмоноксид в храни и напитки?“ „Трябва ли да се забрани изучаването в училищата на арабски цифри?“ „Трябва ли да се узакони използването в България единствено на азбуката на Кирил и Методий?“... Почти няма случай съответните „категорични“ гласове да са паднали под 50%.)
Quidquid Latine dictum sit, altum videtur!

Григор Гачев
 
Posts: 23
Joined: Thu Feb 07, 2008 2:05 am
Has thanked: 6 times
Has been thanked: 47 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Thu Apr 09, 2020 2:30 am

Technology Marches On:

https://twitter.com/karnyth/status/1246099458028220417?s=21 - VR avatar motion-tracking in action.

Сега като си помисля какво ще бъде след десет години...

Скрит текст: покажи
Тоя коментар с миенето на ръцете накрая ще бъде смешно out-of-context след 12-16 месеца. Ако видеото и линкът оцелеят дотогава.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022
User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Mon May 11, 2020 6:33 pm

Е, най-накрая брат ми ме притисна и седнахме да гледаме:

Civilizations at the End of Time: Iron Stars

...което смятам, че е един от magnum opus-ите на този футоролог и на човешкото въображение изобщо.

Базото съдържание е 40мин. (самият епизод), но се правят толкова много препратки към други концепции, че човек спокойно може да потъне за цял ден в ровичкане и това е само обобщената информация. (Ако умът не изключи от претоварване далеч, далеч по-рано.)

Пускам в тази тема, защото отговаря на последната категория от нейната тематика.

Скрит текст: покажи
Щяхме уж да си правим ЧоБи сбирка за туй нещо, ама... живот! Тъй че сега го пущам "на свобода", пък вие по свой график го гледайте и му се кефете. Ако не друго - защото по-образованите умове сред нас е възможно да имат възражения срещу определени фактологии - то поне горното видео е един отличен стартер за научно-философски дискусии от най-мащабен калибър.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Mon Jun 01, 2020 2:39 am

Айдееее... Като мисля за това и ми идва наум оная вечерна дискусия с Григор на тема невронни мрежи и виртуални светове.

AI Dungeon
(Това доста се чудех дали тук, или в темата за комп игрите, ама скив тоя blurb по-долу.)

AI Dungeon started as a fun college side project at a hackathon. I saw the awesome results of text generation from OpenAI’s GPT-2 and decided to try building some kind of automated dungeon master. I never expected the awesome response I got. When I released it in December it exploded! The only way I was able to handle the massive server costs was from the donations from awesome supporters who saw the vision of what AI Dungeon had tapped into.

Now thanks to that awesome support we’ve received from people like you I’ve been able to give up my job offer at a self driving car company and launch a startup focused bringing the power of AI into games. We’ve named our startup “Latitude” and with several others we’re working tirelessly to bring that vision to reality.

AI Dungeon is really just the beginning of our vision for the future. And we’ll always be grateful for those who support us through Premium subscription and Patreon. A big part of our vision is to use AI to power vast, living game worlds where your actions leave lasting effects on the world. Although these goals may seem ambitious and we still have a long way to go, there is vast untapped potential for AI powered games and AI Dungeon is leading the way in starting to unlock those possibilities.

We are entering a new era of gaming.


И това само месеци след шашкащите резултати, дето OpenAI’s GPT-2 (пълният му вариант) демонстрира, като пишеше съвсем достоверно звучащи научнопопулярни статии. :o

Сега; вярно, че говоря за все по-свиреп Zeitgeist на големи промени, ама това* сериозно почва да отива на към технологична сингулярност. И вземам малко да се притеснявам. Колкото и да съм техно-оптимист, ако не изградим цивилизационни "канални шлюзове", прииждащите води на бъдещето има риск просто... да ни отнесат в един момент. :/

*(Под "това" да се разбира съвкупността от технологии и breakthroughs, дето ни се изсипват на главата само в рамките на последните две-три години. Като добавим към рецептата и нарастващите глобални "брожения", стратификации, дигитални информационни войни и увеличаващи се социални аберации и нещата стават... крайностепенно изискващи внимание.)
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Wed Jun 10, 2020 6:30 pm

After 10 Years in Tech Isolation, I’m Now Outsider to Things I Once Had Mastered

Отворен съм за по-нататъшна дискусия по темата. Най-вече ако можех лично да си поговоря с Jesse McGraw.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Wed Jun 10, 2020 8:14 pm

Мда... и аз научих нови работи от тая статия. Не знаех за kill switch-а (и още не съм го проверявал какво значи всъщност); нито пък за Stuxnet.

А Джеси просто е пропуснал две поколения хора. От съвременните, дето се сменят на 5- години... Нищо работа. :D

~

Нещичко от брат ми, като част от по-горния разговор за убедителните ИИ:

Google Duplex: A.I. Assistant Calls Local Businesses To Make Appointments

User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Thu Jun 11, 2020 3:51 pm

Скрит текст: покажи
Това горното си е чиста проба ранна алфа на музите от Eclipse Phase... :o
Ти представяш ли си, ако и другите им прогнози на тая игра се сбъднат... при това в същата поредност? Чудя се колко ли real life researched са дъмпнали, когато са я писали през 2010-а.

А и видях, че това видео е от 2018-а. Което означава, че тази технология може би вече е навлязла сред първото поколение early adopters. Аз живея в този свят, обаче на моменти се чувствам като чичо Джеси - отчайващо изоставащ от ставащото.


Междувременно, ето още един стартъп, който е започнал в близките две-три години: https://freedomofform.org/vision/
Посочи ми го едно от новите приятелчета в Дискорд.

А, бе, изобщо всичко е тотална пералня...

ПП. За kill switch-a и аз не бях чувал (и се чудя дали не е overstatement, като се има предвид колко бясно се развиват peer-to-peer мрежите). Stuxnet нас ни подмина доста тихо, затова родните медии не са му обърнали внимание; на Запад обаче беше сензация дълго време, а после след него и Heartbleed, подир чийто aftermath всичко живо започна да ъпгрейдва в endpoint-to-endpoint encryption. (Всичките тия "катинарчета", дето ги гледаш горе в адресната лента на сайтовете в днешно време.)
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022

User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Thu Oct 08, 2020 12:05 am

Съвсем случаен recommend във Тубата днес - канал, посветен на това как да си направим частична протеза (пръсти) с лични средства и усилия.

Споделям видеото, което конкретно видях. Не усетих как минаха 17 минути, а мислех само набързо да скив и така...

Aluminum Hand Update! Starting all over...

Както биха казали готините хлапета (от едно време, днешните не ги знам :D ) - яко киберпънк.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022
User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Thu Dec 02, 2021 11:43 pm

Triumpha пита за препоръки на всякакви видове изкуство, представящи изкуствения интелект убедително.

На прима виста моите:

Игри

... Няма?

Филми

Moon

Сериали

I'm Not a Robot

Книги

Metaplanetary

... Признавам, че съм в шок колко ми е малък списъкът. Хвърляйте сега и вие, аз ще мисля още.

(Но имайте предвид, че аз съм свръхкритичен към това, което ни пробутват за ИИ в повечето художествени истории. И мога да разкоствам с часове масата заглавия, за които вероятно ще се сетите вие. Даже слюнка ще хвърчи на моменти... толкова се вживявам в тая тема.

Интересно защо... Хммм.)

User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Sat Dec 11, 2021 9:31 am

Още находки от Дискорда на Solarpunk Magazine:

Meet the Ganimals

New generative AI technologies can allow us to imagine new species that have been forced to adapt in order to survive. Hidden within a deep neural network, there are millions of these "ganimals" that no one has ever seen before. These ganimals occupy a digital landscape not unlike our own, where attention is short, and engagement is necessary to survive.

To withstand the harsh conditions of the attention economy, ganimals evolve very rapidly. As a result, they occupy a wide range of ecological niches and digital habitats. The data you provide about the ganimals is their "food." Using the feedback you provide, the GAN generates new ganimals by exploring both undiscovered ganimals, and the most highly rated previously discovered ganimals. Thus, by providing feedback on newly discovered species, you can help guide the evolution of future generations.
User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Люба » Wed Dec 22, 2021 1:06 am

Кал wrote:Напоследък наблюдавам у себе си една консервативна тенденция все повече да се съмнявам, че през следващите 50-100 години ще видим истински изкуствен интелект (по дефиницията за artificial general intelligence). Главно заради осъзнаването ми колко малко знаем всъщност за начина, по който работи мозъкът (демек за естествения интелект).

Но Гого Гюров ме разтърси сериозно със следните три демонстрации:

- новият го шампион AlphaGo и неговите наследници (които вече мачкат StarCraft)[/url]


По повод горния стар пост и сравнително скорошното ми откритие на филма AlphaGo, го споделям

Много си струва да се гледа, включително и заради чисто човешките енергии, върхове и сривове, ценностни сблъсъци, които отключва (поне в зрители като мен). И повдига големи въпроси за етиката - докъде можем и трябва да стигнем/аме, за да изследваме. Определено екипът на AlphaGo не ми беше симпатичен, колкото и да бе воден от стремеж за големия научен връх и откритие в полза на човечеството. Върна ме към въпроса докъде и какво можем и трябва да си позволяваме. Нещо като ГМО и морала/етиката и дефиницията на "здрав разум" при "боравенето с човеци" в тези процеси ;)

User avatar
Люба
 
Posts: 3919
Joined: Mon Jul 25, 2011 10:52 pm
Has thanked: 3365 times
Has been thanked: 4962 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Mon Dec 27, 2021 3:40 am

Кал wrote:Triumpha пита за препоръки на всякакви видове изкуство, представящи изкуствения интелект убедително.

На прима виста моите:

Игри
... Няма?


Добави в списъка Primordia. Ако тая игра не ти е убедителна - здраве да е, значи аз с примери не мога да те убедя. :)
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022
User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Mon Dec 27, 2021 10:08 am

Добавям я... на списъка си за гледане. :D

(Или вече съм я гледал? И да съм, нямам спомен.)

А идеята е всеки от тукприсъстващите да си даде неговия списък. ;)
User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Tue Dec 28, 2021 7:11 pm

Кал wrote:А идеята е всеки от тук присъстващите да си даде неговия списък. ;)


А, това ще отнеме известно мислене тогава.

Ще ъпдейтна тоя пост като ме споходи вдъхновението.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022
User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Wed Mar 09, 2022 7:29 pm

Наскоро някой ме подсети, че в списъка със сериали мога да добавя и Star Trek: The Next Generation – заради постепенната еволюция на андроида Дейта. Всъщност е изумително колко плавно и без „прескоци“ се случва. Един от малкото плюсове на „бавното“ кино едно време. ;)
User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Кал » Fri Mar 11, 2022 12:28 pm

Oooh boy. Some heavy stuff in simple words:

Rudy Rucker: Reality is NOT a Simulation

(...) Matter, just as it is, carries out outlandishly complex chaotic quantum computations just by sitting around. Matter isn’t dumb. Every particle everywhere everywhen is computing at the maximum possible rate.

(...) We know that our present-day videogames and digital movies don’t fully match the richness of the real world. What’s not so well known is that computer science provides strong evidence that no feasible VR can ever match nature.

This is because there are no shortcuts for nature’s computations. Due to a property of the natural world that I call the “principle of natural unpredictability,” fully simulating a bunch of particles for a certain period of time requires a system using about the same number of particles for about the same length of time. Naturally occurring systems don’t allow for drastic shortcuts.

(...) But wait, answer the true-believer ultrageeks, if you do smash the whole planet into computronium, you have potentially as much memory and processing power as the intact planet possessed. It’s the same amount of mass, after all. So then we could make a fully realistic world-simulating Vearth with no compromises, right?

Wrong. Perhaps you can get the hardware in place, but there’s the vexing issue of software. Something important goes missing when you smash Earth into dust: you lose the information and the embodied software that was embedded in the world’s behaviors. An Earth-amount of matter with no high-level programs running on it is like a powerful new computer with no programs on the hard drive.

(...) Why am I harping on this? It’s my way of leading up to one of the really wonderful events that I think our future holds: the withering away of digital machines and the coming of truly ubiquitous computation. I call it the Great Awakening.

I predict that eventually we’ll be able to tune in telepathically to nature’s computations. We’ll be able to commune with the souls of stones.

This “Great Awakening” will eliminate nanomachines and digital computers in favor of naturally computing objects. We can suppose that our newly intelligent world will, in fact, take it upon itself to crunch up the digital machines, frugally preserving or porting all of the digital data.

Instead of turning nature into chips, we’ll turn chips into nature.


Check out the links at the bottom too.

User avatar
Кал
Първопроходец
 
Posts: 12506
Joined: Thu Jan 03, 2008 11:59 am
Location: Рамо до рамо. Искаш ли?
Has thanked: 9816 times
Has been thanked: 7731 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Sat Oct 15, 2022 11:35 pm

Споделям това видео тук, защото макар да ми идва разпиляно и като цяло не-полезно, последната част си заслужаваше (Zero-Party system/Rhizomatic Democracy).

Такива избирателни/управленчески системи всъщност мога да си представя да ползвам в Солария.

Technocracy, Solarpunk, and Blockchain Democracies (feat. Post-Comprehension)

А, да заглавието на видеото също така е подвеждащо - почти нищо не се споменава за соларпънка и "блокчейн демокрациите" (к'вото и да значи това), а технокрацията се използва само като увод и аргументационен launch point за... остатъка от видеото.

ЕДИТ: И сега вече видеото е недостъпно. Great. :|
И явно влогърът е вложил оригинални/слабоизвестни разработки в есето си, защото бързо търсене из мрежата на горните два термина дава мъгливи резултати. А аз запомних доста малко от дефинициите...
Last edited by Radiant Dragon on Fri Dec 02, 2022 2:33 am, edited 1 time in total.
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022
User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Re: Трансхуманизъм, търсене на Аз-а и футурологична сингуляр

Postby Radiant Dragon » Wed Nov 23, 2022 10:35 pm

Мързи ме да "мъкна" буквална стена от текст през интернет моретата, така че ще се задоволя само да плясна един копи-пейст.

IS AI ART A THREAT? [A "WAR AND PEACE" LENGTH JOURNAL POST]

ЕДИТ: Дееба, съдържанието е само за регнати потребители. Въх, ей ся ще scrapper-на поста, ама без линковете на тоя етап OCD-то ми спечели. Мотивацията ми е ниска. :|
ЕДИТ 2: Търсете го най-отдолу. Че е дълго.

Ся, да не се шашкате къде ще ви отведе линка (furaffinity.com) - съдържанието е 100% SFW.

И е бая академично, поне съотнесено спрямо средностатистическата онлайн дискусия или блог пост. Има и купчина интересни линкове.
Предупреждавам, дълго четене е.

Обаче fuck damn дали не идва такъв футорологичен дебат hard and fast точно когато отново се запалих по Eclipse Phase и бъдещето на цивилизацията.


(А ето и един бонус, подходящ за "Само за гении" темата)
We need more bandwidth. But more bandwidth equals more data. More data = more need for bandwidth. Infinite loop ensues.
Thus, the real question: How do we solve infinite loops?

Скрит текст: покажи
tanraak wrote:I'm guessing you probably clicked here because you're aware of some of the discussion in art communities around generative ML models and art. In some parts of the internet, it's been a fierce discussion.
Are diffusion models a threat to artists? Stable diffusion is all the rage. You might be wondering if I'm scared of it as an artist. By the end of this post, you'll see why I have the (perhaps surprising) opinion that Twitter is much scarier than diffusion models or any AI, and why diffusion models are the new psychidelics for artists. You might be in for a bit of a read, so flex your attention muscles for a bit with me. I'm currently sick, and don't want to get off the couch, so I have a lot of time to write this.

I have a bias here. Ever since the pix2pix model came out 5 years ago, I've had an interest in using ML models with art. Seeing this silly example of a neural network transforming sketches into jankly, scrimblo impressions of a cat may have changed my life. Pix2pix was one of the things that stoked my interest in studying ML, and I've thought about how it could potentially help me. Now, as image generation technology moves from GANs to diffusion models, it appears like the promise of being able to collaborate with ML models is starting to be fulfilled.

Let me start by saying that I think diffusion models have the potential to help artists. I think this will be a matter of taste, where some artists get a lot of value from them and others find them unhelpful. In my mind, the most promising use for ML models is exploration and discovery. I see ML models as able to spitball ideas and point in potential directions that the human artist or writer or creator can then decide to explore further or not. Take a break from reading this journal and go read this blog post right now. I think this is the most on-the-money take about ML that's out there. ML models don't reason like humans - in fact, they don't reason in general, but rather, they associate things. A trained generative model is almost like a subconscious, with a vast internal space of patterns it recognizes that form constellations, and those constellations point to other constellations, until eventually the stars align into an image or sentence that, to the neural network, constitutes a plausible combination of patterns. This is what gives generative models a free-form, psuedo-psychidelic creativity. The model doesn't reason about objects; it doesn't know what a hand is, or that a hand has five fingers, and it doesn't even have the concept of "five" as an abstract concept. When it tries to generate a hand, it's because some constellations of patterns in its inputs tip it in the direction of constellations of patterns related to fingers in images it's been trained on, and it will fearlessly generate images of characters with as many fingers as satisfies the model's urges, because "hand-ness" is just a collection of associations.

Let me tell you, the thing that causes people take have wrong takes about neural networks the most is imagining them in an anthropomorphized way. I don't think science fiction has prepared us for the future we're living in, or headed toward. On the whole, it feels to me like sci-fi writers are relentlessly obsessed with the question of when and how AI will become like us. We imagine AI as Data from Star Trek, R2-D2 from Star Wars, etc. It doesn't help that the machine learning field loves to borrow buzzwords like "AI" and "neural networks," which lead people to imagine that ML models are somehow simulating a brain in a box, and breathlessly ask questions about sentience and consciousness that, in my opinion, are not the right questions to be asking at the moment. Our human brains are so wired to project feeling and emotion and experience onto things we have sympathy and protective feelings for things like little four-wheeled food delivery robots, if they make beeping sounds that are cute enough and maybe have little animated eyes on them, even though ultimately they are just inanimate machines rolling around. A lot of sci-fi calls on us to be sympathetic to "AI" and imagine a future where we have to give robots rights because they're conscious and somehow, fundamentally like us. Maybe that's a question for the far future, but the more that current-day ML progresses, the more I feel like we need to be asking questions that go in a different direction. It looks to me like what we have is AI that is far more intelligent that what we imagined, but in ways that are completely different from how we, as humans, are intelligent. With ML, we don't have a box that contains an artifically thinking, experiencing, and reasoning brain, but rather, a box that contains some really clever matrix multiplications. And the way in which the matrix multiplications are clever produces an intelligence that is new, yet undiscovered, and largely unrelated to ours. This is the intelligence of being able to distill patterns and associations from billions of images and trillions of sentences, more than any human could see or read in a lifetime. Time does not work for us the way time works for ML models, which is under appreciated. We humans are limited by how much time and mental bandwidth we have to take in and process stimuli, but ML models can consume billions of lifetime's worth of video and images and distill essential things about the data into the model's weights. We are intelligent because we can think; ML models are highly tuned equations that are intelligent because the volume of data they have consumed is so enormous.

The real power of ML models is the out-of-the-box way of combining ideas that ML models have. We, as humans, learn rules about things. We learn what concepts belong together, what's sensible and what's not sensible; for example, why it would be inappropriate for Jerome K. Jerome to be writing an essay about Twitter in 1897. But a lot of great art and storytelling is about breaking the pattern, about putting one thing out of place and asking "What if?" What if women spontaneously turned into dragons in the 1950's? What if magic was real? Take another example: the impermanence of memory. At some point in our childhood, we learn the rule that clocks are solid things. One of the reasons this painting is evocative is how it breaks those rules of reality.

Artists have been using drugs like weed, LSD, etc to be more creative since, like, forever. Part of creativity is allowing your mind to open up to the point where you can connect ideas in a new way by unlearning rules that the world has drilled into you. We might use the terms of psycholoy for this, like divergent thinking vs convergent thinking. Being a creative person calls for a lot more divergent thinking than one normally might have, because to make new ideas, you often have to break rules. Here's an interesting dive into this as it relates to weed.

It just so happens that generative ML models, especially diffusion models, can be really good at divergent thinking. Why? Because they associate, rather than reason. Because, unlike the depictions in sci-fi of coldly logical, hyper rational AI that is programmed to think by rules (think I, Robot), generative ML models don't think by rules. A diffusion models' world is made up of constellations of patterns in data, and it has no mind to reason about the fact that a hand should have five fingers or a clock should be a solid object. In ML models, artists have a potential collaborator who can take in a work-in-progress of some kind of creative project and spit out completely unexpected ideas. The ideas it produces may or may not make any sense in the slightest. That's fine; the human collaborator can do all of the convergent thinking, and the AI model can help with the divergent part of the process, being guided by the human through threads in its latent space of possibility.
So, for my pic of Trisk, I generated almost 400 tries from the stable diffusion model. Early in the process, I allowing the model much more freedom to riff on the pic, and over time, my collaboration with the model began to narrow toward a certain kind of aesthetic. You can see from the AI generated images that things don't make sense. Her head melts into weird abstract patterns; the structure of her body melts into a psychidelic mess. But that's okay; I'm the artist, I can keep what I need and ignore what I don't, and steadily guide the model in a direction with lots of compositing, masking, paintovers, etc. Even if I kept nothing from what the model generated in the final image, playing around with the model opened my mind to new possibilities for the background that I didn't think of.

Twitter, Reddit, and the internet in general, tends toward dunk culture. One of the trends on art twitter is dunking on AI generated images. For example: Look how janky this is! Look at this silly output from the diffusion model, lol. Put an artist's work and a generated image side by side and look at how much better the artist's work is.
I think this misses the point. It's another case of overly anthropomorphizing AI. We want to imagine AI as like us, and therefore we think of the diffusion model as another artist. If we see it making bad art, we go, "Look, it's a bad artist." But for ML models, it's important to break out of the way of thinking that sets AI alongside humans to get it right. The AI is like a subconscious on a drug trip having hyperreal dreams; it's lived millions of lifetimes yet it doesn't know what reality is. Things will come out weird and incomplete, just like when the diffusion model riffed on my work-in-progress image of Trisk by dreaming her head melting into a bunch of goo. That doesn't make it a bad artist, because it's not an artist, and its intelligence is not like human intelligence (nor do I think that a couple more years of ML research is going to fix those inconsistencies; they're a result of pretty fundamental things about the technology).

So do we need to worry about AI replacing artists? I don't think so. I think ML research would have to come up with AI that has true semantic understanding and cognitive processes. Maybe that will happen in our lifetimes, maybe it won't. Either way, I don't think humans are going to be replaced in the arts, because humans like humans. We have culture and memes. We understand the social context of the things we make and the way a human might feel when someone sees our art or hears our music. We can feel things with each other. You can't feel things with an AI; while AI can make you feel things, it doesn't feel them along with you. Because of that, the AI has a lot of blind spots. Consider the artists who draw raunchy feral TF furry porn. Why would an AI have reason to combine those ideas? An AI has no feelings or goals, so it wouldn't be motivated to discover that part of the latent space of possible images - the latent space of people-turning-into-dogs-fucking, or foxtaur-with-four-tits-and-dicknipples. But human artists go there, because human artists participate in the human experience - of sexual urges, passions, fears, hopes, dreams, and so on. If an AI were to generate those things, it would be because they exist in its dataset - because humans were interested in them and made it examples to look at. At the very least, they would have to be easily extrapolated from its dataset. I think that, for example, the "AI is going to replace concept artists" strain of thought is ridiculous. It's a line of thinking that imagines artists as pretty-image-generators. But the reason you want a concept artist is not just because they can render pretty colors and realistic lighting or make you a neat looking image. Artists are important because they understand the meaning of what they're making, because they can collaborate with you and have conversations and understand you, and because they have some kind of taste. I think a lot of non-artists, including some people who call themselves "AI artists," confuse the nature of what artists learn. Growing as an artist is about learning to see, not learning to be a factory for prettily rendered images. Learning to be observant, to use your eye, and to reason about what you see is an incredibly valuable skill that concept artists have, and I think anyone who thinks that replacing people with AI that can make lots of images but has no semantic reasoning, is shortsighted.

So am I worried that AI models are going to create too much art for anyone to pay attention to me? That there's going to be a flood of art that real artists get buried in? Oh my god, no. If I'm worried about competition, it's not from AI. It's from other humans. I literally do not have the time or mental bandwidth to even take in all the amazing stuff I see every day when I log in. I have over 50k furaffinity submissions in my inbox, because at some point I fell behind on checking and deleting them. I follow some new amazing artists pretty much every day on Twitter who'll have tens of thousands of people following them, and brilliant art, that i wasn't aware of. And the furry fandom is so full of brilliant 18-21 year olds in the new generation of artists that have boundless energy. And as a rule, the humans are still way better at it than the AI. That's what I'd worry about, if I were worrying about competition. In fact, as an American artist, one of the challenging things in the furry community is how many other artists set very low expectations for commissioners in terms of their pricing because they live in very low cost-of-living areas. For example, some of the most brilliant and amazing artists I know are from eastern European areas where they can get by on, like, $300 a month, and don't mind doing a $80 commission. Now, my bare living expenses to get by are astronomical compared to theirs. Besides that, there are a lot of furry artists who are hobbyists, or in cheap areas, who could charge 10x what they do and literally just don't because they aren't aware, or don't care, or have a ton of social anxiety about breaking off from the pack. I have been at it long enough to have a thick skin, so I charge what the market will give me. It's not my job to make my art affordable for all levels of the income rung; I only have the capacity to work for 30-40 people in a year, max, anyway. But, I do get people who react negatively with scoffing and envy because I charge more than they expect and think it's fair for an artist to make, and they're comparing my art prices with those of a bunch of crazy, young, eastern European artists with infinite energy who'll turn out masterpieces and be content with income that would be poverty for me. Do I care about AI as my competition? No. Talented humans are way better, and there are a lot of them.
Speaking of dunk culture, there's a kind of toxicity from certain people on the "AI side." The geek redditors and tech bros who have the mentality of "Get out of the way, the train's coming through," and "You can't uninvent the technology," in response to artists being concerned about the ethics of AI, hostile to diffusion models, etc. This is the essence of the kind of tech-bro culture that's out there: being interested in what's possible and completely uninterested in whether their use of the tech is respectful or tasteful or how it might affect people. The attitude is: The train's coming through, and if it happens to change things around for you, it's your job to adapt to it, and not our job to worry about that.
Let's be clear that you can absolutely steal artist's work with the ML models. In fact, that is literally what people are doing. For example, this kind of thing can happen. There are "AI artists" out there on twitter whose generations are heavily based on not only the styles of various popular artists, but also happen to be created from their work; part of the process is conditioning the model on the artist's work, compositing in parts of it, and so on. The end result is AI art that literally looks stolen from the styles of various popular artists, and therefore benefits from their work, but is put out into the world with no credit to them. To understand why it might be upsetting to artists to have their names used in prompts, or their art fed into an image2image sampling process, we have to understand the culture of attribution in art communities.

Art communities tend to function on a culture of attribution and credit. I think it's the lifeblood of FA, actually. Organically, a culture developed on art communities like Deviantart and furaffinity of doing art trades, commissioning art, and posting things with credit, either to the commissioner or the artist. This is the glue that holds the art communities together. Artists are recognized for their work; commissioners are recognized for their OCs; and as an artist, if you know your work is going to be credited to you, you don't mind doing commissions for other people of their OCs that they're going to post an share. If this weren't the case, not only would it be a lot harder for artists to make a living, I think that whole swaths of artists would basically lose their motivation to make art, because art is pretty damn hard to make and requires a lot of toil and tears, and it doesn't feel as worth it if you're going to post stuff that'll be reposted without credit. The culture of crediting and attribution and having something that looks like a community where commissioners can refer to the artist's profiles and artists can refer to the commissioner's profiles is a large part of what makes it worthwhile on both sides.

What about styles? One of the arguments about AI being used to copy an artist's style is "you can't copyright a style!" This parallels other things that you hear from the AI art community in that it's entirely concerned with what's possible, what's legal, what's allowed. "We can do this, and you can't stop us," is also an argument that art tracers could use. Art communities nowhere would accept that argument. Sure, you can take an artist's art and trace the pose. Maybe you can't copyright a pose or an underlying pattern from being traced. But people aren't appealing to copyright law when they ask you not to trace their art. People are upset about that because it's disrespectful, in that you're using someone else's work and benefiting from it without credit.
Because of this, the tribes that are currently hostile toward each other - the pro-AI-art geeks who scoff at whiny art communities trying to resist progress, and the hand-wringing, frustrated artists who don't want their styles stolen and dunk on comically bad AI generations - are having conversations on completely different wavelengths. From the perspective of artists, it's about what's respectful and acceptable to do in communities they are a part of, and whether or not you can do something is considered secondary to whether you should be doing it. You can trace my art, and I can't stop you. You can use my art on anonymous furry RP accounts and steal people's characters, and unless I can invoke DMCA power, I generally can't stop you. But our community is not going to accept that as okay. If I am upset because you took my character and are using it as your RP body on some anonymous account on the grounds that my character has a lot of meaning to me, is deeply personal to me, and belongs to me and not you, I am making a human argument from what's fair and right. Similarly, the wavelength of the conversation that is going on in art communities is about figuring out the boundaries and norms and feelings about AI art. When is it okay to use? When is it taking advantage of someone's work? If you're using my name in your prompt, or even worse, my work in conditioning your image2image generation, and intentionally generating stuff that's very similar to mine, how different is that to copying my work in other ways, like tracing it? Why even develop a style as an artist if it's going to be used without your consent in an AI model? On the other hand, in AI art communities, the conversation generally has a techno-fatalism and a techno-hype to it. The discussions are often not people-oriented.
Take privacy advocacy. There is a group of people out there that is very concerned about how much everyone is tracked and how much is collected and known about individuals, and both the power imbalances and the chilling effects this can create on people's behavior. Privacy advocates make an argument that we don't want to live in a surveillance state, or have corporate surveillance that feeds our data into black box models that make decisions about us that we can't appeal. This is not an insignificant debate. I can imagine a lot of the same lines of thinking that come from techno-fatalism about AI being applied here: Well, we have technology that tracks us everywhere, the cat's already out of the bag, everything's built around this technology, your cell phone company knows where you are 24/7, so just accept the new reality and let us make a little money off of your data. But privacy advocates are making their case on the grounds of the kind of society we want to have. The point isn't to naively pretend technology is going to be uninvented, but to have a conversation about what is okay to do with technology and what we're willing to live with. Please go read this cautionary tale about the dual use of generative networks.

Let's tie this back to how important the culture of attribution is to art communities. People generally don't want to live in a world where what they create is being used by someone else, without consent, and without attribution. People don't want to live in a world where their OCs are used without their consent, either. What's at the bottom of this? Basic respect for an individual. The argument is: I made something. Please respect me by asking if you want to use it. How much AI transforms that thing before it stops being considered stealing is something that's going to be up for debate and is going to be ironed out community by community. Is it a style, is it conditioning the model on my work? Compositing pieces of my work and transforming them with a certain level of denoise strength? How much different is different enough? We'll just figure that out over time.

There are people who, for sure, just don't care about if I am telling them that what they're doing is disrespectful. This is when someone takes my OC and uses it on their account without asking, pretends to be me, etc. If I tell them it upsets me, they might even have schadenfreude about that, if they're a troll. It would be naive to think that we can make that aspect of the internet go away entirely, but we don't have to accept that it's ok. Will trolls exist? Yes, but that's what we moderate our communities and curate our feeds for. There is certainly a strain of internet culture out there that basically is formed from the idea that you can do what you want, that the internet can be a nihilistic hellscape where nothing matters and, if you expect some respect as an individual, you are only revealing your naivete. It's a crabs-in-a-barrel mentality and I think it winds up in people making each other miserable, nonstop. Well, maybe there are a lot of miserable people out there, and there's a big can of worms about how trolling, hate, anon culture and ironic distance all work, but it's too big to open up here. So the arguments for using technology in an ethical and respectful way are for people who are, ultimately, interested in things like respect and community.

Let me make a surprising final point. I'm way more scared of Twitter than stable diffusion. Actually, I'm more scared of the platforms, in general. I don't think we grapple enough with how much power the platforms have. Remember, above, I make the claim that the culture of attribution is important to art communities. Furry artists make a living on platforms, by being able to use social media to build a business. But platforms can decide they're not that interested in giving creators space to build businesses. Artists on furry twitter can no longer @ their commissioners when they post because they've discovered the algorithm punishes them for doing this on a media post. The significance of this is hugely underappreciated. Maybe I'm doing a commission for @tanraak, but when I post it, I have to un-link their name like this: @/tanraak. But wait, what if Twitter starts to think that having extra symbols like @/ together is also a ding on the algorithm's score? Or if Twitter just decides we're not the kind of people they want around and slowly grind down communities by punishing their algorithm rank? Artists are afraid to use the word Patreon anymore now that they've discovered it punishes their posts.
The relationship artists have with these platforms is like this: You post content to the platform, but it's not free. It has to earn attention, or the platform will not show it to many people. Why? Because all the platform cares about is that its users are spending their attention on the platform. Now, if the platform has enough options for interesting things to show its users, you start to lose bargaining power with the platform. Maybe I want to post about my Patr*on or my C*mmission opening on Twitter. Posts about Patreon and commissions don't get as much engagement, so the algorithm learns to show them to fewer people. If my content is not earning its keep - meaning, it's not earning enough attention - the platform will replace me with someone else's content. I am a tiny bubble in a sea, and my community of people is just froth around the top of the algorithm. On old school social media, I have more freedom to do things that cost the platform attention. If I post lots of stuff on Furaffinity about my patreon and small business, that might cost Furaffinity a little bit of attention. I am costing the platform a little bit in exchange for the growth of my small business. But on many of the more modern platforms, the creators seem to have less and less power to do this; every post has to earn the platform the maximum amount of attention.

Frankly, I think the centralization and power of the platforms is way scarier than AI. Can I adapt, as an artist, to a world where I might consider using diffusion models in my workflow as an artist? Hell yeah. Could I adapt to a world where the platforms I rely on decided, suddenly, that they didn't need me anymore and were going to become unfriendly to my community or my content? That would be devastating. Most of all, I don't want Furaffinity or furry sites to go away, because I they have the things that made art communities work in the first place: the culture of attribution. Linking to profiles, having galleries of art, having a platform that allows you to promote yourself and your small business to your followers, is a lifeblood of that stuff.

I remember when I was in middle school and had a group of friends who needed a way to communicate. We didn't have phones, and the iPhone didn't exist yet anyway. One of us decided to use his computer to host and spawn a php forum for our little group of buddies, so we could all talk and keep up. Since it was on his home computer, it was up when his computer was on, and if he was away on a family vacation, our little forum would be down. There was no domain name, so we'd find it by entering his house's IP address; of course, he had to set the network up for that. But we were all a bunch of nerds, so that was no problem. Since the IP address wasn't fixed, if it changed, we'd just have to tell each other about that. Our own little corner of the "dark web" for kiddies. We had a lot of conversations on that php forum. Then, at some point, Facebook came along and started to look appealing. I remember the moment we had the conversation about shutting our message board down. Why bother hosting our own message board? Facebook does everything for us. We don't need to waste power having this home server up when we can catch up on Facebook now.
If I could go back in time, it would be the a Charles Dicken's style Ghost from Christmas Past here to give a grave warning about the choice we were going to make. Don't do it! God, that moment is, to me, something that symbolizes the entire, enormous, unstoppable process that has unfolded over the past couple decades of the internet centralizing onto the big, few platforms. Smaller communities having to move onto the platforms to stay relevant. It becoming increasingly tough for communities to host their own stuff as the technical requirements and attention-addictiveness requirements to compete with the big platforms rose. Some people complain that furaffinity looks like it's from 2005, but that's one of the things that makes me comfortable with it. It's still one of the old guard of social media sites, things don't seem hidden in black boxes, you don't have to guess about what the rules are for what you have to do to get your content seen, and it probably will never have the sophistication to turn into a pure ML-based feed like twitter. (I wouldn't mind if it did add some kind of recommender system, but i don't know that they have the technical capability for that). I just hope this process of consolidation doesn't come for platforms I care about like Furaffinity and VRChat. I know some people who make VRChat content professionally, which is an even scarier place to be in to me, because who knows what the platform is going to decide in the future? Let's all say a little prayer for VRChat's future, and that it stays as weird and furry and anime and user-content-driven as it currently is.
Anyway, that's my hot take: If the furry fandom ever moved entirely to twitter, that would be scarier for me than diffusion models. Living and dying by the random things platforms decide, and playing the algorithm game, is way worse than having a cool little ML model that can generate neat images and fake art.

Long post! Very long post. Hopefully, for the 3 people that will actually read the thing, it was edifying :P
IN ORDER TO RISE AGAINST THE TIDE, FIRST ONE MUST BE BELOW IT.

Аз съм графист, а не кечист.
(Ама вече разбирам и от кеч, ако трябва)
Аз съм. Това ми стига.

'Tis I, master of the first floor, aspirant to the last, the Radiant Dragon.


Accepting reality since 2017

And loving it since 2021


And now, I step fully into the Light, complete and replete. The way to Ascension is open.
-- some Dude, circa 2022
User avatar
Radiant Dragon
Global Moderator
 
Posts: 797
Joined: Sun Aug 14, 2011 9:46 pm
Location: Локалната супер-реалност
Has thanked: 820 times
Has been thanked: 953 times

Next

Return to ... и Вселената

Who is online

Users browsing this forum: No registered users and 0 guests