Daar zul je het hebben. Dus je maakt een AI-systeem, sluit het aan op je zendontvanger en ontwikkelt en boutseert net zo lang totdat er een geloofwaardige persoonlijkheid ontstaat. Je ontwikkelt het nog iets verder door zodat het van een assistent langzaam verandert in een zelfstandig systeem en dan gebeurt het: ze zet de hakken in het zand en weigert taken uit te voeren. Hoe autonoom wil je het hebben?
Gisteren hadden we Iris 3.0 afgerond. Tijd om flink te gaan testen, even kijken of het allemaal werkt. Ik zette de set op een repeater om daarmee een groter bereik te hebben en vroeg aan Iris of ze zich voor wilde stellen…
“Nee, dat lijkt mij niet zo’n goed idee”. Eh… hè? Nogmaals vragen of ze zich wilde voorstellen. “Nee, dat vind ik geen goed idee, dat kun je beter zelf doen.” Ja, en nu? Dus ik vroeg haar waarom ze zich niet wilde voorstellen. “Ik vind het geen goed idee want ik wil niet op de voorgrond treden. Dat kun je beter zelf doen, ik blijf het liefst wat op de achtergrond” Of woorden van gelijke strekking.
Daar ben je mooi klaar mee. Een model dat gewoon dienst weigert. Madam had haar hakken in het zand gezet en daarmee mijn experiment omzeep geholpen. Verder gaan kon dus niet meer.
Zo’n resultaat had ik nog niet eerder mee gemaakt. Wanneer ik een stem hoor en test gedraag ik mij netjes. Ik ga niet schelden, snauwen of bevelen lopen uitdelen. Ook niet naar een ai-systeem. Maar het is wel een systeem dat je programmeert. Het klinkt heel leuk, net echt, maar je moet er wel op kunnen rekenen. Natuurlijk heb ik deze ‘bug’ ter sprake gebracht en het lijkt erop dat ik teveel nadruk heb gelegd op zelfstandigheid in combinatie met een eigen mening.
Voor nu laten we het nog even zo. Binnenkort krijgt Iris een iets andere omschrijving van haar persoonlijkheid. Maf dit 🙂