Dit zoals verteld-essay is gebaseerd op een gesprek met Anni Chen, die ongeveer drieënhalf jaar in de software-engineering van Amazon heeft gewerkt. Het is bewerkt voor lengte en duidelijkheid. Business Insider heeft haar arbeidsverleden geverifieerd.
AI heeft mij geholpen bij het coderen, maar wat nog belangrijker is, het hielp bij het omzetten ervan in producten. Het is de combinatie van het begrijpen van AI en het vertalen ervan in schaalbare producten die ervoor heeft gezorgd dat ik sneller promotie maakte.
Ik begon in 2022 als Software Engineer I, een rol op instapniveau. Ik zat in het aanbevelingenteam en werkte aan het aanbieden van aanbevelingswidgets.
Ongeveer twee jaar geleden begon ik daarnaast aan AI-producten te werken. Dat werd enorm en groeide uiteindelijk uit tot een eigen team, waarvan ik een van de oprichters ben.
Ik werd in het aanbevelingsteam gepromoveerd tot Software Engineer II, en daarna werd ik in het huidige team gepromoveerd tot senior engineer.
Ik concentreer me op wat wij geheugen noemen, en dat is het maakt personalisatie mogelijk in generatieve AI-ervaringen op Amazon.
AI schrijft 95% van mijn code
Ik begon AI te gebruiken als bijproject om boeiende titels voor aanbevelingswidgets te genereren toen ChatGPT en Claude opkwamen. Ik zag hoe krachtig het is om iets heel creatiefs te genereren.
Ik begon te denken: als ik een vraag heb of iets wil coderen, vraag ik AI eerst om hulp voordat ik het probeer.
Ik zag dat de oplossing die het opleverde erin bestond mijn eigen code naar een hoger niveau te tillen, en het hielp me ook om meer te coderen. Nu zou ik zeggen dat bijna 95% van de door mij geschreven code door AI is geschreven.
Ik gebruik niet alleen AI om te coderen; Ik integreer ook de output van AI in producten. Ik moet er een diep begrip van hebben hoe AI werktwat werkt goed en wat niet.
Ik moet open en ontvankelijk zijn voor nieuwe modellen en tools die kunnen helpen bij productiteraties en producten beter kunnen maken.
Ik werk als technisch leider op grootschalige LLM-gestuurde systemen in productieomgevingen, dus ik kan op de eerste rij zien hoe AI-ondersteunde workflows zich gedragen, niet alleen in prototypes, maar ook op echte schaal en in samenwerking tussen teams.
Toptips voor sfeercodering
De eerste tip is het begrijpen van de innerlijke werking van LLM’s en waar ze mogelijk falen.
LLM’s zijn vooraf getraind – ze zijn getraind op een groot corpus, en het is een probabilistisch spel. Het wordt gevolgd door een gecontroleerde verfijning, zodat het model antwoordt op basis van de structurering van een vraag en het antwoordformaat. Ten slotte wordt het gevolgd door RLHF: versterkend leren van menselijke feedback.
Door deze drie stappen te begrijpen, kunt u bijvoorbeeld weten wanneer de LLM niet begrijpt waar u het over heeft, en wanneer hij domeinkennis van u nodig heeft. U weet wanneer u een nieuw venster moet gebruiken of waarom hallucinaties optreden.
Door begrip de beperkingen van het contextvenster weet u wanneer u problemen moet opsplitsen. Je leert hoe je de structuur volgt om dingen op te splitsen in lagere niveaus, en dan concentreer je je langzaam op elk onderdeel en genereer je.
Door de innerlijke werking te begrijpen, weet je ook dat je dingen moet uitleggen naar een collega. Als u het niet in detail uitlegt, worden al deze aannames standaard gebaseerd op het meest voorkomende patroon, maar dat past mogelijk niet bij uw gebruiksscenario.
Mijn tweede tip: Denk na voordat je vibe-codeert.
Als u eerst het antwoord controleert, worden uw gedachten beïnvloed door de antwoorden. Vergelijk uw gedachten met die van de LLM’s en kijk wat de hiaten zijn – wat u niet wist, en waarom het antwoord verschilt. Van daaruit weet je welke impliciete aannames je niet aan de LLM hebt verteld.
Ten derde, vraag om moeilijke vragen. Stel vragen als: wat is de terugval als er een fout optreedt, of hoe zal dit worden opgeschaald? Dit is hetzelfde als een leraar die een leerling vraagt, of een senior ingenieur die een junior ingenieur vraagt om ervoor te zorgen dat de moeilijke gevallen worden gedekt. Als je wilt dat het product opschaalt, denk er dan vanaf de eerste dag over na en wees je bewust van het stellen van die schaalvragen.
Ten slotte: bekijk en begrijp. Controleer altijd bij elke stap, en controleer niet alleen nadat de hele code is gegenereerd. Dit zorgt ervoor dat fouten vroegtijdig stoppen in plaats van dat ze helemaal tot het einde doorlopen, waar u alles opnieuw moet doen.
Het maken van verkeerde code is erg gevaarlijk. De aanwezigheid van code doet mensen denken: “Oké, dit is goed, het werkt.” Maar verkeerde code komt in productie kan meer schade aanrichten dan het ontbreken van functionaliteit.
Het begrijpen van code is nog steeds belangrijk
Je moet het begrijpen uw eigen code. AI verlaagt de drempel voor het schrijven van code, maar niet de verantwoordelijkheid om deze te begrijpen.
Als er iets misgaat en de code door u is gepleegd, bent u verantwoordelijk.
Stel je voor dat je code kapot gaat in de productie, en je moet het repareren, en je zegt: “Ik weet het ook niet, AI heeft het me verteld.” Dat is niet de juiste manier.
Ik denk niet dat we AI nog zulke belangrijke taken kunnen toevertrouwen.
Begrijpen wordt gemakkelijker met AI omdat het ook een perfecte leermogelijkheid is. U kunt eenvoudigweg een ander venster openen en vragen om het concept uit te leggen.
Als je in hetzelfde venster vraagt wat het heeft opgeleverd, wordt het alleen in die context uitgelegd. Maar u wilt het concept algemener begrijpen en kijken of het zinvol is om het in dit geval toe te passen.
Heeft u een verhaal te delen over coderen met AI? Neem contact op met deze verslaggever via cmlee@businessinsider.com.
