¿La IA está sobrescribiendo tus notas? Tres capas de ownership para proteger tu conocimiento

LLM Wiki, la propuesta de Karpathy, es una idea para bases de conocimiento personales que compila y mantiene una wiki persistente. El LLM solo lee y el humano escribe. Sin embargo, hay un problema: el conocimiento refinado manualmente no está protegido. Cuando editas la wiki manualmente, el LLM puede sobrescribir tus ediciones, lo que puede ser molesto cuando trabajas en una base de conocimiento personal.

Para resolver este problema, se introdujeron tres capas de ownership en agnosticBrain. Estas capas son raw/, wiki/, curated/ y archivo/. El raw/ es inmutable y solo el humano lo lee. El wiki/ es el conocimiento compilado y el LLM lo escribe y mantiene. El curated/ es para notas refinadas manualmente y es de solo lectura para el LLM. El archivo/ es el sistema y solo se utiliza para entrar.

La tercera capa, curated/, es la más importante ya que contiene notas refinadas manualmente que son de solo lectura para el LLM. La regla es que el contenido de curated/ es inviolable y no se puede editar, sobrescribir ni alterar. Para proteger una nota, se mueve de wiki/ a curated/ usando la operación /curate. Esto impide que el LLM modifique la nota en futuros ingest ni lint.

Cuando el LLM encuentra información nueva que actualiza o contradice una nota curada, se genera una propuesta en wiki/_proposed/YYYY-MM-DD- nota .md. El LLM nunca toca la nota curada y el humano decide si aplica la propuesta o no. Este mecanismo cierra el loop de aprendizaje sin sacrificar la protección del conocimiento curado.