Conversațiile cu ChatGPT pot fi citite și analizate de evaluatori umani, nu doar de utilizator și sistem. O investigație jurnalistică realizată de 404 Media, pe baza unor documente interne, conversații Slack, instrucțiuni pentru evaluatori și exemple de conversații reale, arată că OpenAI a implicat sute de angajați și contractori în analiza manuală a dialogurilor cu chatbotul, în cadrul unui program denumit Project Lily. Evaluatorii evaluează răspunsurile generate, inclusiv în situații care nu implică detectarea unui posibil pericol, iar analiza este prezentată ca o modalitate de îmbunătățire a programului. Situația a stârnit îngrijorări privind confidențialitatea și siguranța informațiilor personale.