Gdy asystent odpowiada na podstawie Twoich własnych notatek, stawka jest inna niż przy zwykłych błędach chatbotów. Błędna odpowiedź przepisuje tu Twoją przeszłość: zobowiązanie, którego nigdy nie podjąłeś, decyzję, którą w rzeczywistości cofnąłeś. Zaufanie do osobistego AI to nie uczucie — to lista kontrolna o czterech punktach.
Widoczne źródła i uczciwa chronologia
Każde twierdzenie powinno wskazywać notatki, które je popierają — otwieralne, z datami i fragmentami. Źródła nie tylko dowodzą odpowiedzi, one ją ograniczają: widok wniosku opartego na dwóch styczniowych notatkach mówi równie jasno, czego system nie wie. A że osobista historia pełna jest zwrotów, zacytowanie marcowej decyzji oznacza pokazanie także czerwcowej notatki, która ją obaliła.
Założenia oznaczone jako założenia
Czasem notatki nie odpowiadają w pełni, a pomocny system mostkuje lukę wnioskowaniem. To w porządku — jeśli szew pozostaje widoczny.
- „Twoje notatki mówią X” musi znaczyć, że notatki naprawdę mówią X.
- „Prawdopodobnie Y, sądząc po…” oznacza wnioskowanie przy pracy.
- „Twoje notatki tego nie obejmują” to pełna i uczciwa odpowiedź.
- Sprzeczne dowody pokazuje się jako konflikt, nigdy nie rozstrzyga po cichu.
Poprawki, które się trzymają
Znajdziesz błędy: źle przypisany cytat, nieaktualny wniosek. Zaufanie przetrwa tylko wtedy, gdy poprawka ma dokąd trafić: naprawiasz zapis, a przyszłe odpowiedzi ją odzwierciedlają. Asystent, który powtarza już poprawiony błąd, udowodnił, że weryfikacja nie ma sensu — a weryfikacja jest całą podstawą tej relacji.
Zanim zaufasz jakiejkolwiek odpowiedzi o własnej historii, przejdź listę: czy widzę źródła, czy najnowsze jest na górze, czy domysły są oznaczone i czy moja poprawka się utrzyma? Cztery razy „tak” to pamięć. Wszystko poniżej to gładki domysł.