Как создать словарь из строки текста?

У меня есть сгенерированный файл с тысячами строк, например:

CODE,XXX,DATE,20101201,TIME,070400,CONDITION_CODES,LTXT,PRICE,999.0000,QUANTITY,100,TSN,1510000001

В некоторых строках есть больше полей, а у других - меньше, но все они соответствуют одному и тому же шаблону пар ключ-значение, и каждая строка имеет поле TSN.

При выполнении некоторого анализа файла я написал следующий цикл, чтобы прочитать файл в словаре:

#!/usr/bin/env python

from sys import argv

records = {}
for line in open(argv[1]):
    fields = line.strip().split(',')
    record = dict(zip(fields[::2], fields[1::2]))
    records[record['TSN']] = record

print 'Found %d records in the file.' % len(records)

... это нормально и делает именно то, что я хочу (print - просто тривиальный пример).

Однако для меня это не особенно "pythonic", а строка:

dict(zip(fields[::2], fields[1::2]))

Что просто чувствует "неуклюжим" (сколько раз он перебирает поля?).

Есть ли лучший способ сделать это в Python 2.6 с помощью стандартных модулей?

ОТВЕТЫ

Ответ 1

В Python 2 вы можете использовать izip в модуле itertools и магию объектов генератора, чтобы написать свою собственную функцию, чтобы упростить создание пар значений для dict записей. Я получил идею для pairwise() из одноименного (но функционально отличающегося) рецепта в документах по Python 2 itertools.

Чтобы использовать подход в Python 3, вы можете просто использовать обычный zip() поскольку он делает то, что izip() делал в Python 2, что приводит к последнему удалению из itertools - приведенный ниже пример решает эту itertools и должен работать в обеих версиях.

try:
    from itertools import izip
except ImportError:  # Python 3
    izip = zip

def pairwise(iterable):
    "s -> (s0,s1), (s2,s3), (s4, s5), ..."
    a = iter(iterable)
    return izip(a, a)

Который может использоваться следующим образом в вашем файле for чтения цикла:

from sys import argv

records = {}
for line in open(argv[1]):
    fields = (field.strip() for field in line.split(','))  # generator expr
    record = dict(pairwise(fields))
    records[record['TSN']] = record

print('Found %d records in the file.' % len(records))

Но подождите, там больше!

Можно создать обобщенную версию, которую я назову grouper(), которая снова соответствует itertools, но функционально отличающемуся рецептуру itertools (который приведен ниже в pairwise()):

def grouper(n, iterable):
    "s -> (s0,s1,...sn-1), (sn,sn+1,...s2n-1), (s2n,s2n+1,...s3n-1), ..."
    return izip(*[iter(iterable)]*n)

Который может быть использован следующим образом в вашем цикле for:

    record = dict(grouper(2, fields))

Конечно, для конкретных случаев, подобных этому, легко использовать functools.partial() и создать аналогичную функцию pairwise() (которая будет работать как в Python 2, так и в 3):

import functools
pairwise = functools.partial(grouper, 2)

постскриптум

Если не существует действительно большого количества полей, вы можете вместо этого создать фактическую последовательность из пар строк (вместо использования выражения-генератора, которое не имеет len()):

fields = tuple(field.strip() for field in line.split(','))

Это преимущество заключается в том, что это позволит группировать с помощью простой нарезки:

try:
    xrange
except NameError:  # Python 3
    xrange = range

def grouper(n, sequence):
    for i in xrange(0, len(sequence), n):
        yield sequence[i:i+n]

pairwise = functools.partial(grouper, 2)

Ответ 3

import itertools

def grouper(n, iterable, fillvalue=None):
    "grouper(3, 'ABCDEFG', 'x') --> ABC DEF Gxx"
    args = [iter(iterable)] * n
    return itertools.izip_longest(fillvalue=fillvalue, *args)

record = dict(grouper(2, line.strip().split(","))

источник

Ответ 4

Если мы все равно будем абстрагировать его на функцию, писать "с нуля" не так сложно:

def pairs(iterable):
    iterator = iter(iterable)
    while True:
        try: yield (iterator.next(), iterator.next())
        except: return

версия рецепта robert определенно выигрывает очки за гибкость.