Crashing case found by fuzzer `luaL_dostring_test`

[gal1ium]

Hi! We found a crashing test case when running the fuzzing driver luaL_dostring_test.

PoC:

local
e,_,V,_,W,V,_,V,W,_,V,_,_,_,_,_,W,_,_,W,W,W,W,W,W,x,_,V,_,W,_,W,_,W,_,E,_,W,E,_,V,_,W,_,W,_,N,_,V,W,_,V,_,W,_,_,V,W,W,W,E,V,W,W,W,W,W,W,W,W,W,W,x,V,V,_,_,_,V,_,W,V,_,V,W,_,V,_,_,_,_,_,W,_,_,W,W,W,W,W,W,x,_,V,_,W,_,W,_,W,_,E,_,W,W,W,W,W,a,_,V,V,V,_,V,W,_,_,V,_,V,V,_,V,W,W,W,W,W,W,W,W,V,W,_,V,_,_,_,_,_,W,_,_,W,W,W,W,W,W,x,N,W,W,x,_,V,N,_,_,_,_,W,_,E,_,W,W,_,V,_,_,_,_,_,E,V,V,_,_,_,V,_,W,V,_,V,W,_,V,_,_,W,W,W,W,x,V,V,_,W,_,V,_,_,V,_,V,V,_,V,_,W,_,W,_,W,_,W,W,W,W,W,W,W,c,_,V,_,W,W,W,W,W,x,V,N,W,W,W,W,W,W,W,W,B,R

Output:

luaL_dostring_test: lcode.c:401: int luaK_codeABCk(FuncState *, OpCode, int, int, int, int): Assertion `A <= ((1<<8)-1) && B <= ((1<<8)-1) && C <= ((1<<8)-1) && (k & ~1) == 0' failed.
Aborted (core dumped)

Commid id: db2091f

But I'm having trouble reproducing it in the official Lua program. May I ask for some help or hints here?

[ligurio]

I suspect it is a false positive, see Known Issues ¹, p. 3.

Footnotes

1. https://github.com/ligurio/lua-c-api-tests?tab=readme-ov-file#known-issues ↩

[Buristan]

Nice found, @gal1ium!

Are you going to report the issue to the Lua developers?
If you do, please share the link here when it is be done.

I can reproduce it with the following script:

./lua -e 'load([[local
e,_,V,_,W,V,_,V,W,_,V,_,_,_,_,_,W,_,_,W,W,W,W,W,W,x,_,V,_,W,_,W,_,W,_,E,_,W,E,_,V,_,W,_,W,_,N,_,V,W,_,V,_,W,_,_,V,W,W,W,E,V,W,W,W,W,W,W,W,W,W,W,x,V,V,_,_,_,V,_
,W,V,_,V,W,_,V,_,_,_,_,_,W,_,_,W,W,W,W,W,W,x,_,V,_,W,_,W,_,W,_,E,_,W,W,W,W,W,a,_,V,V,V,_,V,W,_,_,V,_,V,V,_,V,W,W,W,W,W,W,W,W,V,W,_,V,_,_,_,_,_,W,_,_,W,W,W,W,W,
W,x,N,W,W,x,_,V,N,_,_,_,_,W,_,E,_,W,W,_,V,_,_,_,_,_,E,V,V,_,_,_,V,_,W,V,_,V,W,_,V,_,_,W,W,W,W,x,V,V,_,W,_,V,_,_,V,_,V,V,_,V,_,W,_,W,_,W,_,W,W,W,W,W,W,W,c,_,V,_
,W,W,W,W,W,x,V,N,W,W,W,W,W,W,W,W,B,R
]])'
lua: lcode.c:400: luaK_codeABCk: Assertion `A <= ((1<<8)-1) && B <= ((1<<8)-1) && C <= ((1<<8)-1) && (k & ~1) == 0' failed.
Aborted (core dumped)

Or in a shorter version:

./lua -e 'load("local " .. string.rep("_,", 256) .. "_")'
lua: lcode.c:400: luaK_codeABCk: Assertion `A <= ((1<<8)-1) && B <= ((1<<8)-1) && C <= ((1<<8)-1) && (k & ~1) == 0' failed.
Aborted (core dumped)

Lua is taken from master and built like the following:

make CFLAGS="-DLUA_USE_APICHECK -DLUAI_ASSERT " -j

[gal1ium]

Thanks! I reported it here: https://groups.google.com/g/lua-l/c/F132crJ2D_8

[ligurio]

@gal1ium Thanks for reporting! Feel free to update a list with trophies ¹.

Footnotes

1. https://github.com/ligurio/lua-c-api-tests/blob/master/TROPHIES.md ↩