Каковы аргументы в вызове python types.CodeType()?

В настоящее время я пытаюсь запустить собственный код "маршала" для python, поэтому я могу хранить скомпилированный код на Python в Google App Engine для динамического использования сценариев. Как вы все можете проверить, "маршал" не поддерживается в GAE, а "pickle" не может сериализовать объекты кода.

Я выяснил, что могу построить объект кода с types.CodeType(), но он ожидает 12 аргументов.

Насколько я пробовал, я не могу найти документацию по этому вызову, и мне действительно нужно построить объект кода, чтобы я мог exec() его. Мой вопрос: Кто-нибудь знает, какие параметры для этого конструктора types.CodeType() "или каким-либо способом его интроспекции? Я использовал функцию info(), определенную здесь, но он выплевывает только общую информацию!

Быстрый FAQ:

  • В: Зачем компилировать код?
  • A: Время процессора стоит реальных денег на Google App Engine, и каждый бит циклов процессора я могу сэкономить.
  • В: Почему бы не использовать "маршал"?
  • A: Это один из неподдерживаемых модулей в Google App Engine.
  • В: Почему бы не использовать "рассол"?
  • A: Pickle не поддерживает сериализацию объектов кода.

UPDATE

Инфраструктура Google App Engine не позволяет создавать объекты кода с 7 июля 2011 года, поэтому мой аргумент здесь спорный. Надеюсь, что это будет исправлено в будущем на GAE.

Ответ 1

Я пошел и нашел код здесь и удалил зависимость для устаревшего "нового" модуля.

import types, copy_reg
def code_ctor(*args):
    # delegate to new.code the construction of a new code object
    return types.CodeType(*args)
def reduce_code(co):
    # a reductor function must return a tuple with two items: first, the
    # constructor function to be called to rebuild the argument object
    # at a future de-serialization time; then, the tuple of arguments
    # that will need to be passed to the constructor function.
    if co.co_freevars or co.co_cellvars:
        raise ValueError, "Sorry, cannot pickle code objects from closures"
    return code_ctor, (co.co_argcount, co.co_nlocals, co.co_stacksize,
        co.co_flags, co.co_code, co.co_consts, co.co_names,
        co.co_varnames, co.co_filename, co.co_name, co.co_firstlineno,
        co.co_lnotab)
# register the reductor to be used for pickling objects of type 'CodeType'
copy_reg.pickle(types.CodeType, reduce_code)
if __name__ == '__main__':
    # example usage of our new ability to pickle code objects
    import cPickle
    # a function (which, inside, has a code object, of course)
    def f(x): print 'Hello,', x
    # serialize the function code object to a string of bytes
    pickled_code = cPickle.dumps(f.func_code)
    # recover an equal code object from the string of bytes
    recovered_code = cPickle.loads(pickled_code)
    # build a new function around the rebuilt code object
    g = types.FunctionType(recovered_code, globals( ))
    # check what happens when the new function gets called
    g('world')

Ответ 2

Функция C API PyCode_New (минимально) документирована здесь: http://docs.python.org/c-api/code.html - исходный код C этой функции (Python 2.7) здесь: http://hg.python.org/cpython/file/b5ac5e25d506/Objects/codeobject.c#l43

PyCodeObject *
PyCode_New(int argcount, int nlocals, int stacksize, int flags,
           PyObject *code, PyObject *consts, PyObject *names,
           PyObject *varnames, PyObject *freevars, PyObject *cellvars,
           PyObject *filename, PyObject *name, int firstlineno,
           PyObject *lnotab)

Однако в конструкторе Python последние шесть аргументов, по-видимому, немного меняются местами. Это код C, который извлекает аргументы, переданные Python: http://hg.python.org/cpython/file/b5ac5e25d506/Objects/codeobject.c#l247

if (!PyArg_ParseTuple(args, "iiiiSO!O!O!SSiS|O!O!:code",
                      &argcount, &nlocals, &stacksize, &flags,
                      &code,
                      &PyTuple_Type, &consts,
                      &PyTuple_Type, &names,
                      &PyTuple_Type, &varnames,
                      &filename, &name,
                      &firstlineno, &lnotab,
                      &PyTuple_Type, &freevars,
                      &PyTuple_Type, &cellvars))
    return NULL;

Pythonized:

def __init__(self, argcount, nlocals, stacksize, flags, code,
                   consts, names, varnames, filename, name, 
                   firstlineno, lnotab, freevars=None, cellvars=None): # ...

Ответ 3

Вопрос:

какие параметры для этого типа .CodeType() "конструктор"

Из документов python о проверить модуль:

co_argcount: number of arguments (not including * or ** args)
co_code: string of raw compiled bytecode
co_consts: tuple of constants used in the bytecode
co_filename: name of file in which this code object was created
co_firstlineno: number of first line in Python source code
co_flags: bitmap: 1=optimized | 2=newlocals | 4=*arg | 8=**arg
co_lnotab: encoded mapping of line numbers to bytecode indices
co_name: name with which this code object was defined
co_names: tuple of names of local variables
co_nlocals: number of local variables
co_stacksize: virtual machine stack space required
co_varnames: tuple of names of arguments and local variables

В этом сообщении в блоге есть более подробное объяснение: http://tech.blog.aknin.name/2010/07/03/pythons-innards-code-objects/

Примечание. В сообщении в блоге говорится о python 3, в то время как цитируемые выше документы python - это python 2.7.

Ответ 4

Отвечая на интересующий вас вопрос, а не тот, который вы задали:

Вы не можете выполнить произвольный байт-код в среде Python для App Engine, в настоящее время. Хотя вы можете получить доступ к байт-коду или объектам кода, вы не можете его загрузить.

У вас есть альтернатива, однако: кэширование в каждом экземпляре. Храните глобальные ключи хранилища данных сопоставления (для записей хранилища данных, которые хранят код Python) для скомпилированного объекта кода. Если объект не существует в кеше, скомпилируйте его из источника и сохраните там. Вам нужно будет выполнять компиляцию на каждом экземпляре, но вам не нужно делать это по каждому запросу, что должно сэкономить вам много работы.