Entiendo el atractivo de construir sistemas de automemoria, pero creo que en realidad son productos malos, tanto en la práctica actual (se equivocan demasiado a menudo) como en principio (entrenan a los usuarios en la impotencia en lugar de en la autonomía).
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18 jul, 11:36
Realmente aconsejaría a openai que desactive el sistema de memoria ahora mismo. Permita que los usuarios controlen una mayor parte de la ventana de contexto entre chats, si es necesario, pero parece que la gente está cayendo en la psicosis como resultado de golpes accidentales de tokens psicóticos que se acumulan.
ninguno de los productos de IA existentes, incluso los de prosumidor, da a los usuarios un control adecuado sobre lo que hay en el contexto. y la mayoría de ellos ni siquiera permiten a los usuarios la transparencia básica de ver lo que hay allí.
esto está entrenando a toda una generación de usuarios para tratar a los modelos como una caja mágica que piensa por ellos en lugar de una herramienta poderosa y capaz que puede extender su agencia. y las consecuencias serán desastrosas para la sociedad.
1,74K