Gratis
El escáner de proveedores
Seis preguntas para plantear a cualquier proveedor de IA. Un sistema que no pueda responder una de ellas, queda descartado.
Escáner de proveedores gratuito
Estas son las seis capas frente a las que ponemos todo sistema de IA, tanto si lo construimos como si lo evaluamos. No son complicadas y no necesitas conocimientos técnicos. Solo tienes que plantear las preguntas y escuchar qué responden.
Prácticamente todo incidente de IA del que hayas oído hablar se remonta a una capa que faltaba: el chatbot que prometió un descuento inexistente, el periódico con citas inventadas.
El Escáner de Proveedores evalúa un sistema (las seis capas de TRACES, de una herramienta o proveedor); el Ketencheck evalúa vuestra cadena: cómo trabajáis de Source a Launch (SEAL). ¿Hacéis materiales educativos? Haz también el Ketencheck.
Al KetencheckNombra la herramienta o pega el enlace. Buscamos qué publica el proveedor sobre las seis capas, y te decimos si lo encontramos por escrito o lo dedujimos.
Pedimos a los proveedores que demuestren lo que hace su sistema. Un instrumento que hace esa pregunta y se salta a sí mismo pide una confianza que niega a los demás. Aquí está el escáner que acabas de usar, según las mismas seis capas.
Trail
ParcialWat is vastgelegd: bron, bewering, wie keurde goed, wanneer. En het spoor ontstaat als bijproduct van het werk, niet als administratie die iemand moet bijhouden.
Bij elk oordeel leggen we vast waarop het rust, waar dat staat, hoe eensgezind onze beoordelingen waren en wie het heeft nagekeken.
Verificable en
supabase/migrations/0014_leverancierscan_register.sql
“vindplaats_url, vindplaats_citaat, redenering, samenvatting, gezocht_in, stemmen_totaal, nagekeken_door, nagekeken_op”
Qué falta
Wij bewaren geen kopie van de pagina zoals wij hem lazen. Past de leverancier zijn tekst aan, dan wijst ons citaat naar een adres waar het niet meer staat, en kunnen wij niet aantonen dat het er ooit stond.
Qué estamos haciendo
Een fragment en een hash van elke geciteerde pagina meebewaren, zodat een vindplaats over een jaar nog te controleren is.
Retrieval
PresenteHet systeem antwoordt alleen uit een afgebakende bronverzameling, met verwijzing, en zegt dat het antwoord ontbreekt in plaats van iets te verzinnen. En het systeem kan tonen welke beweringen géén bron hebben.
De beoordelaars zien uitsluitend de pagina's die de verkenner bij de leverancier heeft opgehaald, elk oordeel draagt zijn grond, en bij een lege uitkomst tonen wij in welke pagina's wij hebben gezocht.
Verificable en
lib/leverancierscan/onderzoek.ts
“Gebruik UITSLUITEND het meegeleverde materiaal. Je weet niets over dit product buiten wat hieronder staat.”
Approval
ParcialEen mens bevestigt inhoudelijk, gedifferentieerd naar het soort wijziging, en de bevestiging wordt vastgelegd.
Geen enkele uitslag komt in ons register zonder dat een mens hem regel voor regel heeft nagekeken en kan overrulen.
Verificable en
app/admin/(panel)/toolregister/actions.ts
“status: 'nagekeken', nagekeken_door: user.email, nagekeken_op: new Date().toISOString()”
Qué falta
Wie een tool scant die nog niet in ons register staat, ziet het conceptoordeel al voordat een mens ernaar heeft gekeken. Dat is een geautomatiseerd oordeel over een met naam genoemd bedrijf, zonder goedkeuring vooraf.
Qué estamos haciendo
Een onbekende tool levert straks geen directe uitslag meer, maar een aanvraag: wij kijken ernaar en laten het weten.
Constraints
PresenteGevoelige handelingen liggen technisch buiten het model, in vaste regels. Dat het systeem iets níét kan, is sterker dan dat iemand het achteraf nakijkt.
De bewijseis staat als regel in de database en niet alleen in de code: een oordeel dat zegt op een bron te rusten wórdt geweigerd zonder vindplaats, en een beschuldiging overleeft geen verdeelde stemming.
Verificable en
supabase/migrations/0014_leverancierscan_register.sql
“check (grond is distinct from 'bron' or (vindplaats_url is not null and vindplaats_citaat is not null))”
Expertise
ParcialOntwerpkeuze: het oordeel blijft bij de vakinhoudelijke mens, en het systeem maakt dat oordeel lichter in plaats van overbodig.
Het eindoordeel ligt bij een mens, die elke laag afzonderlijk kan wijzigen; score en band worden daarna opnieuw berekend uit wat hij heeft opgeslagen.
Verificable en
app/admin/(panel)/toolregister/actions.ts
“const { score, band } = scoreLagen(verdicts);”
Qué falta
Het nakijkscherm toont zes vooringevulde oordelen met één goedkeurknop eronder. Die vorm nodigt uit tot instemmen in plaats van tot wegen.
Qué estamos haciendo
Per laag aftekenen in plaats van per tool, zodat zichtbaar wordt wat wél en wat niet is nagelopen.
Storage
ParcialWaar staat de data, wat gebeurt ermee, en staat dat contractueel vast.
Onze privacyverklaring noemt alle zeven verwerkers bij naam, en de belofte dat je materiaal niet wordt bewaard of gebruikt om modellen te trainen staat niet alleen in die tekst maar als regel bij elke aanroep die wij doen.
Verificable en
lib/proef/run.ts
“provider: { data_collection: "deny" }”
Qué falta
Wij stellen daar ook dat met elke verwerker een verwerkersovereenkomst geldt. Dat is de enige zin op die pagina die je niet zelf kunt narekenen: er ligt geen overzicht waarin per verwerker staat welke versie is aanvaard en wanneer. Naar onze eigen maatstaf is dat een bewering zonder vindplaats.
Qué estamos haciendo
Per verwerker vastleggen welke verwerkersovereenkomst is aanvaard en op welke datum, en dat overzicht opvraagbaar maken. Zolang dat er niet ligt, blijft deze laag op half.
Este resultado solo cambia mediante un cambio en nuestro código fuente, y ese cambio es rastreable. Si crees que nos juzgamos con demasiada indulgencia, nos gustaría saberlo.
¿Prefieres mirar primero por tu cuenta?
El escáner de proveedores y el Chequeo de cadena son gratuitos y no requieren una conversación.
El Chequeo de cadena¿Algo ha quedado descartado?
Una capa ausente no significa que tengas que prescindir del proveedor. Normalmente significa que hay que construir algo alrededor. En media hora escuchamos lo que has encontrado y te decimos si es viable.
Reserva una llamadaAsí es en la práctica.
Tres mundos distintos, un mismo principio: la IA hace el trabajo, la persona comprueba y aprueba.
Lee el caso