Forestil dig en regional salgsdirektør, der sidder i en lejebil uden for en kundes fabrik. Hun har præcis ti minutter før sit næste møde til at logge sin forrige samtale, opdatere en servicekontrakt og opsummere et omfattende kundebrief. Hendes internetforbindelse falder ud. Hvis hendes virksomhedsapplikationer udelukkende afhænger af fjerne cloud-servere til at behandle grundlæggende sproganmodninger, går hendes arbejdsgang helt i stå. De mest effektive mobilapplikationer får succes, fordi de prioriterer agent-effektivitet over rå modelstørrelse og udfører målrettede arbejdsgange direkte på de enheder, som professionelle allerede har med sig.
Agent-effektivitet er målet for, hvor autonomt og præcist et intelligent system udfører en specifik brugeropgave inden for et begrænset hardwaremiljø. I stedet for at måle et værktøj på, hvor mange milliarder parametre dets bagvedliggende model har, måler vi det på, hvor succesfuldt det fjerner friktion fra brugerens hverdag.
I mine år med forskning i naturlig sprogbehandling (NLP) og talegenkendelse har jeg set teknologibranchen besætte sig af massive modeller til generelle formål, der ser imponerende ud i kontrollerede demoer, men fejler under virkelighedens begrænsninger. Min holdning som praktiker er klar: Sand nytteværdi kommer fra målrettet begrænsning. Et ansvarligt softwareudviklingsfirma skal prioritere pålidelighed over spektakel.
Skiftet mod formålsbestemt eksekvering
Vi ser endelig det bredere marked anerkende denne virkelighed. Boston Institute of Analytics dokumenterede for nylig et strukturelt skift i virksomhedsteknologi og bemærkede, at branchen aktivt har bevæget sig væk fra blot at måle "modelstørrelse" mod at vurdere "agent-effektivitet" og "slow thinking"-eksekvering. I stedet for øjeblikkeligt at generere plausibel, men potentielt fejlbehæftet tekst, tester specialiserede modeller nu deres egen logiske ræsonnering, før de udfører en systemkommando eller deler et svar.
Dette er præcis den filosofi, vi anvender hos NeuralApps. Som en virksomhed, der specialiserer sig i intelligente applikationer, begrænser vi bevidst omfanget af vores AI-drevne mobilløsninger. Vi bygger ikke samtalepartner-orakler; vi bygger arbejdsgang-acceleratorer, der adresserer specifikke digitale friktionspunkter.
Data indsamlet af National University afslører, at 83 % af organisationer nu rapporterer integration af kunstig intelligens som en top strategisk prioritet, hvor kunderelationsstyring (CRM) (46 %) rangerer blandt de mest almindelige use cases. Men på trods af denne høje prioritering kæmper mange teams med implementeringen, fordi værktøjerne er for generiske eller for tunge til daglig brug i marken.
Hardware-virkeligheder og virksomhedsbrugeren
En af de mest vedholdende myter i moderne softwaredesign er, at intelligente applikationer kræver den nyeste og dyreste hardware. Hvis en applikation kun fungerer godt på en helt ny enhed, er det et fejlslagent virksomhedsværktøj.
Vores tilgang til udvikling kræver, at en innovativ applikation fungerer på tværs af et bredt hardware-spektrum. Selvom den avancerede neural engine i en iPhone 14 Pro drastisk fremskynder sproganalyse og billedgenkendelse på enheden, skal nytteværdien være hardware-inklusiv. Vi designer vores modeller, så medarbejdere i marken, der bruger en standard iPhone 14, den større skærm på en iPhone 14 Plus eller endda en ældre iPhone 11, oplever pålidelig og præcis opgaveudførelse.
Dette kræver optimering af vores NLP-algoritmer til at køre effektivt på begrænset RAM. Når man optimerer til en specifik opgave – som at udtrække handlingspunkter fra talt lyd – kan man komprimere modellen betydeligt uden at miste nøjagtighed.
Gentænkning af CRM med kontekstuel tale
For at forstå, hvordan denne filosofi oversættes til faktiske produkter, kan man se på, hvordan vi håndterer indtastning af kundedata. Det traditionelle CRM er i bund og grund en kompleks database pakket ind i en mobil grænseflade. Det kræver, at brugerne manuelt trykker sig gennem flere skærme, dropdown-menuer og tekstfelter blot for at logge et simpelt opkald.
Inden for mit specifikke forskningsområde i NLP er målet at mappe ustruktureret menneskelig tale til strukturerede databasefelter. Vores CRM-applikation giver den regionale salgsdirektør mulighed for blot at trykke på en knap og sige: "Log et møde med forsyningskæde-teamet. De accepterede Q3-volumenerne, men ønsker 5 % rabat på logistikgebyret. Opret en opfølgning på torsdag for at sende det reviderede forslag."
Talegenkendelsen på enheden transkriberer lyden, mens den lokale sprogmodel analyserer hensigten. Den opretter automatisk mødereferatet, tagger den specifikke kunde, noterer den ønskede rabat i prisfeltet og planlægger opfølgningen på torsdag. Ved at flytte den kognitive belastning fra brugeren til softwaren bliver applikationen for alvor nyttig.
Som Dilan Aslan bemærkede i sin analyse af løsning af digital friktion, fejler virksomhedsapplikationer, når de kræver for meget input fra brugeren. Automatisering af den strukturelle dataindtastning sikrer, at systemet faktisk bliver brugt, hvilket giver organisationer nøjagtige realtidsdata fra marken.
Den intelligente PDF-editor: Dokumenter som data
Dokumentstyring på mobile enheder er et andet område plaget af dårlig brugervenlighed. Historisk set har en mobil PDF-editor givet brugeren mulighed for at se en fil, måske tilføje en simpel underskrift eller fremhæve tekst manuelt.
Når man introducerer målrettet NLP, bliver et statisk dokument til et interaktivt datasæt. Vores PDF-editor er konstrueret til at forstå den strukturelle opbygning af forretningsdokumenter. Hvis en bruger åbner en 40-siders leverandøraftale på sin telefon, er det upraktisk at læse den linje for linje. I stedet kan applikationen øjeblikkeligt opsummere ansvarsklausuler eller identificere manglende underskriftsfelter.
Fordi disse forespørgsler er meget specifikke, kan vi udnytte mindre, højttrænede modeller, der behandler tekst hurtigt nok til at opretholde brugerens flow. Umut Bayrak dækkede de tekniske detaljer i sin trin-for-trin guide til implementering af opgavespecifikke neurale netværk og forklarede, hvordan vi opnår denne ydeevne med lav forsinkelse, selv på ældre hardware-arkitekturer.
En ramme for evaluering af mobil intelligens
Når ingeniørteams eller virksomhedskøbere evaluerer nye applikationer, fokuserer samtalen normalt kraftigt på funktioner. Jeg anbefaler at flytte det fokus til eksekveringsbegrænsninger. Hvis du skal beslutte, om et specifikt værktøj faktisk løser et problem, så anvend denne evalueringsramme:
- Vurdering af afhængighed: Fejler applikationen fuldstændigt, hvis enheden mister internetforbindelsen, eller kan den udføre kerneræsonnering lokalt?
- Input-asymmetri: Kræver værktøjet mere tid at sætte op og konfigurere, end det sparer brugeren i eksekvering? Software med høj nytteværdi kræver minimal prompting.
- Hardware-skalering: Degraderer applikationen ydeevnen på en pæn måde på ældre hardware, eller bliver den helt ubrugelig?
- Opgavespecificitet: Forsøger den underliggende model at vide alt om verden, eller ved den kun, hvordan den professionelle opgave skal udføres?
Fremtiden for virksomhedssoftware handler ikke om at presse den størst mulige model ned i en lomme. Det handler om at reducere den kognitive belastning, der kræves for at fuldføre daglige forretningsopgaver. Ved at kombinere målrettet NLP, effektiv kodearkitektur og en streng overholdelse af at løse faktiske brugerproblemer, kan vi bygge værktøjer, som professionelle aktivt ønsker at bruge.
Hos NeuralApps vil vi fortsætte med at rykke grænserne for, hvad lokal behandling kan opnå. Men vi vil altid gøre det med en klar forståelse af, at teknologien tjener arbejdsgangen – aldrig omvendt.