Rozumiem atrakcyjność budowania systemów automatycznej pamięci, ale uważam, że są to w rzeczywistości złe produkty, zarówno w obecnej praktyce (zbyt często się mylą), jak i w zasadzie (uczą użytkowników bezradności zamiast sprawczości).
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18 lip, 11:36
Naprawdę doradziłbym openai, aby po prostu wyłączyli system pamięci teraz. Pozwól użytkownikom kontrolować większą część okna kontekstowego między czatami, jeśli to konieczne, ale wydaje się, że ludzie po prostu wpadają w psychozę w wyniku kumulujących się przypadkowych uderzeń psychotycznych tokenów.
żaden z istniejących produktów AI, nawet te dla prosumentów, nie daje użytkownikom odpowiedniej kontroli nad tym, co znajduje się w kontekście. A większość z nich nawet nie pozwala użytkownikom na podstawową przejrzystość w zakresie tego, co tam jest.
to szkoli całą generację użytkowników, aby traktowali modele jak magiczne pudełko, które myśli za nich, zamiast jako potężne, zdolne narzędzie, które może rozszerzyć ich możliwości. A konsekwencje będą katastrofalne dla społeczeństwa.
1,73K