Když asistent odpovídá z vašich vlastních poznámek, sázky se liší od běžných chyb chatbotů. Špatná odpověď tady přepisuje vaši minulost: závazek, který jste nikdy nedali, rozhodnutí, které jste ve skutečnosti zrušili. Důvěra v osobní AI není pocit — je to kontrolní seznam a má čtyři položky.
Viditelné zdroje a poctivá chronologie
Každé tvrzení má ukazovat na poznámky, které ho nesou — otevíratelné, s daty a úryvky. Zdroje odpověď nejen dokazují, ale i vymezují: pohled na závěr stojící na dvou lednových poznámkách říká stejně jasně, co systém neví. A protože osobní historie je plná obratů, citovat březnové rozhodnutí znamená ukázat i červnovou poznámku, která ho převrátila.
Domněnky označené jako domněnky
Někdy poznámky neodpovídají úplně a užitečný systém překlene mezeru úsudkem. To je v pořádku — pokud je šev vidět.
- „Vaše poznámky říkají X“ musí znamenat, že poznámky opravdu říkají X.
- „Pravděpodobně Y, soudě podle…“ značí úsudek při práci.
- „Vaše poznámky tohle nepokrývají“ je úplná a poctivá odpověď.
- Rozporné důkazy se ukazují jako rozpor, nikdy se neřeší potichu.
Opravy, které drží
Chyby najdete: špatně přiřazený citát, zastaralý závěr. Důvěra přežije, jen když má oprava kam jít: spravíte záznam a budoucí odpovědi opravu odrážejí. Asistent, který opakuje už opravenou chybu, dokázal, že ověřování je zbytečné — a ověřování je celý základ toho vztahu.
Než se spolehnete na jakoukoli odpověď o vlastní historii, projděte seznam: vidím zdroje, je nejnovější nahoře, jsou odhady označené a udrží se má oprava? Čtyři ano tvoří paměť. Cokoli méně je plynulý odhad.