Només 5 línies
La petita conversa quotidiana
Bridgy Fed

En programació amb agents LLM l'arquitectura i els casos límit continuen sent responsabilitat humana

En la programació amb IA és molt important tenir en compte que l'agent només respondrà allò que se li demani. Per exemple, he fet diversos projectes i en cap d'ells la IA ha tingut en compte els riscos de córrer els processos en concurrència (dues instàncies del mateix procés a la vegada). Si no se li demana, l'agent mai ho té en compte i no aplica proteccions (locks, etc.).

Quelcom semblant passa amb els aspectes de seguretat. L'agent resoldrà el teu problema, dins del marc que li donis. Si no li dius que la seguretat és un aspecte important, no la tindrà en compte.

Així doncs, és fonamental que l'humà que guia els agents LLM tingui molt clara l'arquitectura del sistema que es vol construir i de quines maneres pot fallar. D'alguna manera, doncs, estem encara en un paradigme clàssic: el programador ha de pensar en totes les maneres en què el programa pot fallar. És per aquesta raó que la IA genera tant de programari problemàtic o insegur.

Comentaris

Comenta mitjançant Delta Chat