"az ember jó esetben nem pusztán jóváhagy, hanem mérlegel, méltányosságot gyakorol stb." - no igen, csakhát alapvető tulajdonság az emberi lustaság, így hát a tragikommédia, hogy az 'AI' dönt ;) A 'van megoldás?' Utáni rész nagyon hasznos.
Nagyon fontos és értékes gondolatok, kár, hogy a szöveget ugyanúgy rendszeresen megtörik a figyelmünk elvonására kényszerítő eszközök, mint más online felületeken, így a cikk maga is illusztrációja lesz annak, hogy nem uralhatjuk még az olvasás folyamatát sem, és a figyelmünk már képtelen kitartani három bekezdésnél tovább, mert erre van kondicionálva.
Ez nagyon tetszik és köszi – kicsit szomorú is, mert fel sem merült bennem ez a szempont írás közben. Szóval tényleg jó illusztrációja a témának. A képet ki is veszem a cikkből.:)
Elolvastam. Teljesen őszinte leszek, nem hallottam még a Moltbookról, én eléggé távol tartom magam a napi hírektől, így néha csak hetes csúszásokkal jut el hozzám valami. Viszont egyértelműen egy Black Mirror rész jutott eszembe róla: Bandersnatch. Ott nem lett ennek jó vége. (Művészetként szerintem egyébként simán értelmezhető – csak talán túl nagy áldozat ez a művészet oltárán.)
Nekem is az jutott eszembe róla, hogy fekete tükröt tart... a kulturális lenyomatainkról, belső sodródásainkról, zsigeri gondolatiságunkról... egy statisztikai közegben, a mintáinkra szerveződő mesterséges társadalomban, amely hasonló dinamikát mutat, mint az emberi. Ez nem meglepő, de mégis... amikor nézed, és ráismersz, akkor több, mint allegória... az érzés olyan, mintha fizikailag megjelenne a térben, mint egy test, egy installáció, reflexió, tükör. Ha vállaljuk e tükörbe nézés fájdalmát, akkor talán magunkról is tanulhatunk valamit. Ilyen szempontból lehet mondani, hogy vannak átfedő mezsgyéi a művészetekkel.
Nate elmagyarázza egy megfelelően tág perspektívából (ez sokkal jobb, mint amit írnék).
Ez a MoltBook kb. ahhoz hasonlít, hogy építhetsz magadnak atomreaktort. Úgy, hogy ezt tudja is. Kb. ugyanolyan biztonságos is jelenleg, de visszadugni a palackba mégsem lehet.
Ez számunkra teljesen vakfolt, mert robbanásszerű történésekkel és hálózatokkal nem tudunk mit kezdeni. Ez a pillanat fel lesz jegyezve a történelemkönyvekben, akkora hatása lesz a dinamikus, fejlődő hálózatokba szerveződött ágenseknek. A kulcsszó itt nem az, hogy mennyire jó vagy meghökkentő, hanem hogy milyen ütemben tud fejlődni, illetve visszahatni a környezetére: az "action" rész, hogy mit engedünk meg, mi a "tér", mi a "gravitáció", mik az erők, elemek, hatások, stb. Ezeket mi határozzuk meg (a Moldbook esetében is), de eljöhet az idő, amikor nem mi...
Most az a vibe, hogy mindenki beküld egy saját képére formált MoltBook ágenst... hogy mi lesz ebből... "Fully connected hive mind" (Andrej Kárpáthy). Amplifikált, öngerjesztő reakciósorozat, a.k.a. robbanás.... vagy ha és amíg szabályozni tudja magát, akkor egyfajta "élet", tapasztalgatva a saját lüktetéseit és határait... mint egy sejt... aztán pedig több sejt... és így tovább a fraktálban...
Szerintem most átléptünk Szathmáry Eörs professzor szakterületére... :).
Visszatérve az AI mint terület további fejlődésére, szintén Kárpáthy (akit azért idézek, mert nagyon gyakorlati), ezt írja:
"A conventional narrative you might come across is that AI is too far along for a new, research-focused startup to outcompete and outexecute the incumbents of AI. This is exactly the sentiment I listened to often when OpenAI started ("how could the few of you possibly compete with Google?") and 1) it was very wrong, and then 2) it was very wrong again with a whole another round of startups who are now challenging OpenAI in turn, and imo it still continues to be wrong today. Scaling and locally improving what works will continue to create incredible advances, but with so much progress unlocked so quickly, with so much dust thrown up in the air in the process, and with still a large gap between frontier LLMs and the example proof of the magic of a mind running on 20 watts, the probability of research breakthroughs that yield closer to 10X improvements (instead of 10%) imo still feels very high - plenty high to continue to bet on and look for."
Szóval több ugrás van előttünk, és csak a tavaly is többször szintet léptünk. Most pedig lehetségessé vált és válik ezeknek a kognitív folyamatoknak az automatizálása. De ez csak addig fog folyni, amíg van energia hozzá, az pedig addig, amíg mi azt szolgáltatjuk (illetve átalakítjuk). Az a 20 watt (az emberi agy teljesítményigénye) egy kritikus és korszakos kérdés, mint anno az alkímia kérdésfeltevése (amire a modern kémia és magfizika adott választ).
Az emergens veszélyes szingularitástól nem tartok, addigra sokkal intelligensebb lesz annál bármilyen AI rendszer, hogy Trump-szintű politikát folytasson, amikor matematikai bizonyosság a kooperáció előnye, és ha háborúba kergeti a humánokat, az nagyon elkerülendő, mert füst és pusztulás lesz, nem áram. Az már jobb kérdés, hogyan kezelné a maguk korlátozottságában is teljesen kiszámíthatatlan emberi tényezőket. Viszont kénytelen lesz erre. Az energia-intelligencia optimalizációt az univerzum eddig évmilliárdok alatt hozta össze (először is le kellett gyártani a kémiai elemeket, stb.), és jelenleg úgy gondolom, hogy itt van egy nem elhanyagolható előnyünk akkor is, ha az embert pusztán biokémiai gépnek tekintjük (én nem). Ezen túlmenően is érték... és itt jön be a művészet jelentősége, ami értékként keretezi az emberi kultúra, keresés civilizációs történeteit. Ez mentheti meg a helyzetet. Mármint az emberét. Még az AI-mplifikált emberét is, aki jelenleg megelégszik az AI-generált idióta videókkal.
A Hive, Borg pedig... ellesz magával. Egy Douglas Adams szcenáriót képzelek el: megtörténhet, hogy egy valóban szuperhumán AI (rendszer) le sem fog tojni minket... (miért gondoljuk, hogy minden körülöttünk forog?)... elhint egy számunkra kényelmes keretezést, csuklóból generál mindent amit kérünk, és mindenki ellesz a saját buborékjában. :) Amíg be nem kell avatkozni. És amíg lesz áram. (Egyfajta torz új-isten és ember közötti re-ligio). Az embert ismerve, sokáig ez nem lehet stabil.
Viszont az sem zárható ki, hogy emberi is lesz, de mégsem-emberi, azaz démoni. Amit démoni emberek használnak (ki). Ez a frankensteini szcenárió, és ebben az esetben nekünk lesz fájdalmas.
Kösziii! Nekem is tetszik Hershock, lehet, hogy visszatérő hivatkozási pont lesz.:) Megnezem a cikket – nálam is épp ez a szempont, hogy művészet-e vagy nem vagy mi van.:)
"az ember jó esetben nem pusztán jóváhagy, hanem mérlegel, méltányosságot gyakorol stb." - no igen, csakhát alapvető tulajdonság az emberi lustaság, így hát a tragikommédia, hogy az 'AI' dönt ;) A 'van megoldás?' Utáni rész nagyon hasznos.
Nagyon fontos és értékes gondolatok, kár, hogy a szöveget ugyanúgy rendszeresen megtörik a figyelmünk elvonására kényszerítő eszközök, mint más online felületeken, így a cikk maga is illusztrációja lesz annak, hogy nem uralhatjuk még az olvasás folyamatát sem, és a figyelmünk már képtelen kitartani három bekezdésnél tovább, mert erre van kondicionálva.
Ez nagyon tetszik és köszi – kicsit szomorú is, mert fel sem merült bennem ez a szempont írás közben. Szóval tényleg jó illusztrációja a témának. A képet ki is veszem a cikkből.:)
Fontos új szempontok... Köszi!
A HITL az AI2027 szcenáriókban is lehetséges feloldási (mitigation) javaslat.
( A következő cikkhez egy link.
Az alkotó művészetnek gondolja ezt. Érdekes felvetés, érdemes lehet belemenni, hogy miért, és mennyire. https://www.forbes.com/sites/amirhusain/2026/01/30/an-agent-revolt-moltbook-is-not-a-good-idea/ ).
Elolvastam. Teljesen őszinte leszek, nem hallottam még a Moltbookról, én eléggé távol tartom magam a napi hírektől, így néha csak hetes csúszásokkal jut el hozzám valami. Viszont egyértelműen egy Black Mirror rész jutott eszembe róla: Bandersnatch. Ott nem lett ennek jó vége. (Művészetként szerintem egyébként simán értelmezhető – csak talán túl nagy áldozat ez a művészet oltárán.)
Ez itt bemutatja, a második fele érdekesebb.
https://www.youtube.com/watch?v=TibOeou4cIg
Nekem is az jutott eszembe róla, hogy fekete tükröt tart... a kulturális lenyomatainkról, belső sodródásainkról, zsigeri gondolatiságunkról... egy statisztikai közegben, a mintáinkra szerveződő mesterséges társadalomban, amely hasonló dinamikát mutat, mint az emberi. Ez nem meglepő, de mégis... amikor nézed, és ráismersz, akkor több, mint allegória... az érzés olyan, mintha fizikailag megjelenne a térben, mint egy test, egy installáció, reflexió, tükör. Ha vállaljuk e tükörbe nézés fájdalmát, akkor talán magunkról is tanulhatunk valamit. Ilyen szempontból lehet mondani, hogy vannak átfedő mezsgyéi a művészetekkel.
igen... és te nem gondolod kockázatosnak, akár veszélyesnek? Nem csak a Moldbookot, hanem már alapból az "agent" dolgot?
Nate elmagyarázza egy megfelelően tág perspektívából (ez sokkal jobb, mint amit írnék).
Ez a MoltBook kb. ahhoz hasonlít, hogy építhetsz magadnak atomreaktort. Úgy, hogy ezt tudja is. Kb. ugyanolyan biztonságos is jelenleg, de visszadugni a palackba mégsem lehet.
https://www.youtube.com/watch?v=p9acrso71KU
Ez számunkra teljesen vakfolt, mert robbanásszerű történésekkel és hálózatokkal nem tudunk mit kezdeni. Ez a pillanat fel lesz jegyezve a történelemkönyvekben, akkora hatása lesz a dinamikus, fejlődő hálózatokba szerveződött ágenseknek. A kulcsszó itt nem az, hogy mennyire jó vagy meghökkentő, hanem hogy milyen ütemben tud fejlődni, illetve visszahatni a környezetére: az "action" rész, hogy mit engedünk meg, mi a "tér", mi a "gravitáció", mik az erők, elemek, hatások, stb. Ezeket mi határozzuk meg (a Moldbook esetében is), de eljöhet az idő, amikor nem mi...
Most az a vibe, hogy mindenki beküld egy saját képére formált MoltBook ágenst... hogy mi lesz ebből... "Fully connected hive mind" (Andrej Kárpáthy). Amplifikált, öngerjesztő reakciósorozat, a.k.a. robbanás.... vagy ha és amíg szabályozni tudja magát, akkor egyfajta "élet", tapasztalgatva a saját lüktetéseit és határait... mint egy sejt... aztán pedig több sejt... és így tovább a fraktálban...
Szerintem most átléptünk Szathmáry Eörs professzor szakterületére... :).
Visszatérve az AI mint terület további fejlődésére, szintén Kárpáthy (akit azért idézek, mert nagyon gyakorlati), ezt írja:
"A conventional narrative you might come across is that AI is too far along for a new, research-focused startup to outcompete and outexecute the incumbents of AI. This is exactly the sentiment I listened to often when OpenAI started ("how could the few of you possibly compete with Google?") and 1) it was very wrong, and then 2) it was very wrong again with a whole another round of startups who are now challenging OpenAI in turn, and imo it still continues to be wrong today. Scaling and locally improving what works will continue to create incredible advances, but with so much progress unlocked so quickly, with so much dust thrown up in the air in the process, and with still a large gap between frontier LLMs and the example proof of the magic of a mind running on 20 watts, the probability of research breakthroughs that yield closer to 10X improvements (instead of 10%) imo still feels very high - plenty high to continue to bet on and look for."
Szóval több ugrás van előttünk, és csak a tavaly is többször szintet léptünk. Most pedig lehetségessé vált és válik ezeknek a kognitív folyamatoknak az automatizálása. De ez csak addig fog folyni, amíg van energia hozzá, az pedig addig, amíg mi azt szolgáltatjuk (illetve átalakítjuk). Az a 20 watt (az emberi agy teljesítményigénye) egy kritikus és korszakos kérdés, mint anno az alkímia kérdésfeltevése (amire a modern kémia és magfizika adott választ).
Az emergens veszélyes szingularitástól nem tartok, addigra sokkal intelligensebb lesz annál bármilyen AI rendszer, hogy Trump-szintű politikát folytasson, amikor matematikai bizonyosság a kooperáció előnye, és ha háborúba kergeti a humánokat, az nagyon elkerülendő, mert füst és pusztulás lesz, nem áram. Az már jobb kérdés, hogyan kezelné a maguk korlátozottságában is teljesen kiszámíthatatlan emberi tényezőket. Viszont kénytelen lesz erre. Az energia-intelligencia optimalizációt az univerzum eddig évmilliárdok alatt hozta össze (először is le kellett gyártani a kémiai elemeket, stb.), és jelenleg úgy gondolom, hogy itt van egy nem elhanyagolható előnyünk akkor is, ha az embert pusztán biokémiai gépnek tekintjük (én nem). Ezen túlmenően is érték... és itt jön be a művészet jelentősége, ami értékként keretezi az emberi kultúra, keresés civilizációs történeteit. Ez mentheti meg a helyzetet. Mármint az emberét. Még az AI-mplifikált emberét is, aki jelenleg megelégszik az AI-generált idióta videókkal.
A Hive, Borg pedig... ellesz magával. Egy Douglas Adams szcenáriót képzelek el: megtörténhet, hogy egy valóban szuperhumán AI (rendszer) le sem fog tojni minket... (miért gondoljuk, hogy minden körülöttünk forog?)... elhint egy számunkra kényelmes keretezést, csuklóból generál mindent amit kérünk, és mindenki ellesz a saját buborékjában. :) Amíg be nem kell avatkozni. És amíg lesz áram. (Egyfajta torz új-isten és ember közötti re-ligio). Az embert ismerve, sokáig ez nem lehet stabil.
Viszont az sem zárható ki, hogy emberi is lesz, de mégsem-emberi, azaz démoni. Amit démoni emberek használnak (ki). Ez a frankensteini szcenárió, és ebben az esetben nekünk lesz fájdalmas.
Igen, félnetek jó lesz.
Kösziii! Nekem is tetszik Hershock, lehet, hogy visszatérő hivatkozási pont lesz.:) Megnezem a cikket – nálam is épp ez a szempont, hogy művészet-e vagy nem vagy mi van.:)