Token ( engelsk token ) er et objekt skabt ud fra et leksem i færd med leksikalsk analyse ("tokenization", fra engelsk tokenizing ).
I applikationsprogrammering er konceptet for et token og dets token muligvis ikke forskelligt.
En token-skabelon er en formel beskrivelse af klassen af tokens, der kan skabe en given type token.
token type | eksempler på tokens | beskrivelse |
---|---|---|
num | 257 | nummer |
id | Ident951 | identifikator |
relop | <= | relationsdrift |
snor | "Symbol" | små bogstaver konstant |