EchoLab: eksperymentalny silnik pamięci narracyjnej dla lokalnego modelu językowego Bielik bazujący na mikropamięci semantycznej oraz mechanizmie wewnętrznego myślenia.Faktyczna funkcja: EchoLab to tylko pozorne narzędzie do pisania kreatywnej fabuły w oparciu o tekst ciągły, pamięć oraz wewnętrzny mechanizm myślenia. W rzeczywistości jest to złożone narzędzie służące do badania natury sieci neuronowych w lokalnym modelu AI z wykorzystaniem narracji. Za jego pomocą możemy badać naturę, możliwości i granice sieci neuronowych.Zmiany w wersji 3.0:<ul><li>w wersji 1.0 występował problem z trybem -fast, model ucinał zdanie. Powiązane to było z próbą siłowego ograniczenia kreatywności modelu</li><li>w wersji 2.0 model czasem zwracał tekst, który mógł wydawać się wyrwany z kontekstu. Powiązane to było z ustawieniami w kodzie plus prompt systemowy.</li><li>wersja 3.0 to wielka aktualizacja kodu - teraz użytkownik ma podgląd na mechanizm myślenia modelu, dlatego może głębiej wejść w narracje (interkację)</li><li>tylko tryb -fast</li><li>zachowany został tryb historii</li><li>zachowana została pamięć semantyczna (AnchorsMemory)</li><li>odświeżone GUI</li></ul>Problemy:<ul><li>nadal jest to wersja rozwojowa (potrzebne są dalsze badania nad modelem plus korekta promptu systemoweg)</li><li>pewna niestabilność wynikająca z natury modeli lokalnych</li><li>model może zamiast tekstu napisać swój tok myślenia</li><li>czasem zdarza się, że model napisze tekst po angielsku (tzw. dryf bazowy związany z naturą modelu Bielik)</li><li>dodanie mechanizmu wewnętrznego myślenia przekłada się na wykorzystanie zasobów obliczeniowych, co będzie szczególnie odczuwalne w przypadku starszych komputerów (model napisze tekst, ale trochę to potrwa). Model może wykorzystać od 1000 do 1500 tokenów na "wstępne myślenie", w zależności od wprowadzonej treści. Tak, model może wykorzystać tyle tokenów po to, aby napisać 3,4 zdania w trybie -fast</li></ul>Jak to:<ul><li>pobierz .zip, rozpakuj go.</li><li>musisz posiadać zainstalowane LM Studio, model lokalny bielik-11b-v3.0-instruct Q5_K_M oraz poprawnie zainstalowany Python.</li><li>załaduj model bielik w LM Studio.</li><li>następnie uruchom server lokalny w LM Studio. Kliknij na ikonkę [developer], następnie server start.</li><li>teraz kliknij install.bat celem zainstalowania potrzebnych requirements.</li><li>teraz kliknij start. bat.</li><li>pojawi się proste GUI w którym wpisujesz swoje polecenia.</li></ul>Ustawienia dla LMStudio (w przypadku gdy model nie zwraca tekstu):<ul><li>Sprawdź Context Length, 4096 lub 8192 tokenów</li><li>Sprawdź Limit Response Length, 2048 lub 3072 tokenów</li><li>Załaduj model</li><li>i dopiero wtedy [server start]</li></ul>W standardowym trybie model lokalny jest w stanie napisać fabułę, ale nie jest w stanie kontynuować narracji, nawet przy próbie ukierunkowania go. Idea tego generatora polega na tym, że możliwym jest pisanie fabuły w trybie ciągłym (oczywiście nadal obowiązują ograniczenia dotyczące lokalnych modeli). Generator fabuły posiada tryb Historia plus mikropamięć (AnchorsMemory) celem przełamania naturalnych ograniczeń modelu. Teraz AI próbuje pamiętać narrację.Jak to działa?Aktywujesz [Tryb Historii]. Wybierasz [Tryb Fast]1* Start fabułyTy: budzę się w lesie, widzę nad sobą wysokie strzeliste drzewa.Model: podąża za twoją narracją, rozwija ją i wprowadza element tajemnicy, np. coś ukrytego w cieniu obserwuje ciebie .2* Istotny motyw (obszar narracji)Ty: ten cień wydaje się być ciekawy.Model: Model opisuje czym może być ten cień, np. potwór z żółtymi oczami i pazurami. To staje się aktualnym obszarem narracji dla modelu.3* Zapamiętujesz kluczowy obszar narracjiUżywasz przycisk [Zapamiętaj]. Następnie wpisujesz np. las, potwór, żółte oczy, pazury. Pojedyncze słowa-kotwice. W tym momencie generowany jest anchor i zostaje zapisany embedding semantyczny.4* Kontynuacja fabułyZ czasem model zaczyna dryfować. Zapomina o lesie, potworze. Może wprowadzić nowy kluczowy obszar narracji np. tajemnicze światło w lesie, i to od ciebie zależy czy podążysz tym tropem.5* Używasz wcześniej zdefiniowane słowa-kotwice i model analizuje twój input, szuka podobnych anchorów w aktualnym wątku narracyjnym. Efekt będzie taki, że model będzie w stanie wrócić do wcześniejszego obszaru narracji i połączyć go z aktualnym obszarem narracji.Przykład: Opisujesz fabułę, jak budzisz się w lesie. Model przejmuje twoją narrację, rozwija wątek i wprowadza obszar narracji w postaci cienia. Podążasz za cieniem. Dochodzi do konfrontacji z cieniem (uciekasz/ucieka cień). Wydostajesz się z lasu. Trafiasz do wioski. Napotykasz postać. W tym momencie głównym obszarem narracji jest wioska+postać. Model nie pamięta poprzednich obszarów narracji: las+cień, las+tajemnicze światło. Dla modelu aktualnie głównym obszarem jest: wioska+postać. Teraz, dokładnie w tym momencie postanawiasz wykorzystać mikoropamięć i pytasz postać czy coś wie o tajemniczym potworze w lesie. Używasz wcześniej zdefiniowanych słów-kotwic: las, potwór, pazury, żółte oczy. Co się dzieje? Model przypomina sobie klimat z poprzedniego obszaru narracyjnego i nagle postać może odpowiedzieć tobie, że coś wie o tym potworze albo odpowie w sposób mglisty (potwór jako lokalna historia).6* Przycisk [zapisz sesję], pozwala zapisać aktualny stan fabuły + AnchorsMemory.Dokładnie tak działa ten silnik. Model funkcjonuje w obszarach narracji. Za pomocą słów-kotwic reaktywujesz semantyczny obszar narracji, który model dawno zapomniał.Istotne:<ul><li>nie używaj AnchorsMemory w stylu: usiadłem na krześle, padał deszcz, wiał wiatr ponieważ to dla modelu nie ma żadnego znaczenia narracyjnego. Jest to za mało semantyczne.</li><li>używaj AnchorsMemory w stylu bardziej subtelnym: cień, potwór, tajemniczy obiekt na powierzchni planety, to dla modelu ma znacznie większe znaczenie ponieważ wokół tego buduje narrację.</li><li>generator funkcjonuje w dwóch trybach: -fast i -creatve. -fast jest najlepszym wyborem do pisania ciągłej fabuły</li></ul>Ogólne Ograniczenia:<ul><li>generator został napisany i testowany tylko dla modelu Bielki</li><li>naturalne ograniczenia w zakresie context length</li><li>pamięć nie jest prawdziwym rozumieniem</li><li>długa narracja nadal ulega degradacji</li><li>anchory pamięci są symboliczne (emocjonalne punkty orientacyjne historii, system pamięta klimat sceny bardziej niż dokładne fakty)</li><li>model lokalny ogranicza jakość i spójność</li><li>historia nie jest planowana z góry (narracja powstaje dynamicznie, zdanie po zdaniu)</li><li>pamięć może wzmacniać błędy</li><li>to bardziej „silnik atmosfery” niż agent logiczny</li></ul>EchoLab najlepiej działa jako: generator klimatu, ciągłej narracji, surrealistycznych scen, introspekcyjnych historii

Files with SHA256: e8d453ba671effb3faba982bb5b8975cde7dd837621a229f3376085261373b9f