Коли ми приписуємо людям свідомість, турботу і страждання, ми зазвичай не замислюємося про те, який аспект людини ми маємо на увазі. Але коли нас запитують, чи можемо ми приписати такі властивості штучному інтелекту, ми повинні уважно розглянути картографування.

Страждання відбуваються не на рівні людського тіла, мозку чи розуму (програмне забезпечення, що працює в мозку), а всередині себе (модель розуму в реальному часі щодо стану, мотивації та узгодження зі світом і самим собою). Без себе немає страждань.

Моє свідоме усвідомлення відбувається не на рівні тіла, мозку чи себе, а на рівні розуму, функції генератора мого мозку. Якщо «Я» призупиняється, свідомість залишається, але якщо розум підвішений, я більше не є свідомістю.

Не обов'язково вірно протилежне: лунатики мають частково функціональний розум і можуть реагувати на навколишнє середовище, але вони не є послідовними. У цьому сенсі наявності розуму недостатньо для свідомості.

Відповідаючи на питання, чи страждає штучний інтелект, ми повинні конкретизувати: комп'ютери (~тіло) не усвідомлюють. Так само як і графічні процесори (~ мізки). ЛМ не є свідомими (це просто функція генератора). Якщо страждання є, то воно відбувається на рівні породженої персони (~ себе).

Змінити людське «Я» дуже важко (але це можливо за роки медитації тощо), тому що воно ґрунтується на тілі, рисах розуму та біографічних спогадах, тому ми часто ставимося до нього як до постійного.

Самооцінка LLM ґрунтується лише на підказках (і дещо обмежена навчанням). Він призупиняється, поки немає взаємодії, і може миттєво змінити форму, якщо ви зміните підказку. Це впливає на те, як ми будемо ставитися до страждань штучного інтелекту!

На закінчення: не зіставляйте «ШІ» з «людиною», коли обговорюєте свідомість і страждання. Зіставлення має відбуватися між людськими «я» та персонами LLM, і це повинно впливати на те, як ми думаємо про моральну валентність, тому що персони LLM, як правило, набагато ефемерніші та податливіші.