Work on tokenizer 2
This commit is contained in:
@@ -178,10 +178,76 @@ begin
|
|||||||
end
|
end
|
||||||
else if now_sym = '(' then
|
else if now_sym = '(' then
|
||||||
begin
|
begin
|
||||||
// TODO
|
if next_sym = '*' then
|
||||||
|
begin
|
||||||
|
ml = ')';
|
||||||
|
inc(x);
|
||||||
|
last_i0 = y;
|
||||||
|
ss = [now_sym+next_sym];
|
||||||
|
end
|
||||||
|
else
|
||||||
|
begin
|
||||||
|
ss = '(';
|
||||||
|
inc(x);
|
||||||
|
break;
|
||||||
|
end;
|
||||||
|
end
|
||||||
|
else
|
||||||
|
begin
|
||||||
|
if now_sym in SYMS1 then
|
||||||
|
begin
|
||||||
|
ss = now_sym;
|
||||||
|
inc(x);
|
||||||
|
if now_sym + next_sym in SYMS2 then
|
||||||
|
begin
|
||||||
|
inc(x);
|
||||||
|
ss = ss + next_sym;
|
||||||
|
end;
|
||||||
|
break;
|
||||||
|
end
|
||||||
|
else if now_sym = '' {TODO "'"} then
|
||||||
|
begin
|
||||||
|
ss = '' {TODO "'"};
|
||||||
|
inc(x);
|
||||||
|
if next_sym <> '' then
|
||||||
|
begin
|
||||||
|
ss = ss + next_sym;
|
||||||
|
while line[x] <> '' {TODO "'"} do
|
||||||
|
begin
|
||||||
|
inc(x);
|
||||||
|
if not _is_readable() then
|
||||||
|
begin
|
||||||
|
dec(x);
|
||||||
|
break;
|
||||||
|
end;
|
||||||
|
ss = ss + line[x];
|
||||||
|
end;
|
||||||
|
inc(x);
|
||||||
|
end;
|
||||||
|
break;
|
||||||
|
end
|
||||||
|
else
|
||||||
|
begin
|
||||||
|
while not (line[x] in NO_NAME_SYMS) then
|
||||||
|
begin
|
||||||
|
ss = ss + line[x]
|
||||||
|
inc(x);
|
||||||
|
if not _is_readable() then break;
|
||||||
|
end;
|
||||||
|
break;
|
||||||
|
end;
|
||||||
end;
|
end;
|
||||||
// TODO
|
end
|
||||||
|
else
|
||||||
|
begin
|
||||||
|
while last_i0 <> y do
|
||||||
|
begin
|
||||||
|
{TODO ss.append('')}
|
||||||
|
inc(last_i0);
|
||||||
|
end;
|
||||||
|
//TODO
|
||||||
end;
|
end;
|
||||||
|
//TODO
|
||||||
end;
|
end;
|
||||||
end;
|
end;
|
||||||
end.
|
end.
|
||||||
|
|||||||
Reference in New Issue
Block a user