Вангую, в такого рода задачках "игра снова перевернётся", когда к нейросеткам прикрутят какой-нибудь язык логического программирования. GPT отлично cправляются с языками, осталось добавить в программу обучения много текстов на, скажем, Прологе, и приделать сбоку интерпретатор. Зачем использовать нейронки там, где отлично справится банальная машина Тьюринга?