Объедините список фреймов данных панд в один фрейм данных панд

у меня есть список панд dataframes, которые я хотел бы объединить в один панд dataframe. Я использую Python 2.7.10 и панды 0.16.2

Я создал список фреймов данных из:

import pandas as pd
dfs = []
sqlall = "select * from mytable"

for chunk in pd.read_sql_query(sqlall , cnxn, chunksize=10000):
    dfs.append(chunk)

это возвращает список фреймов данных

type(dfs[0])
Out[6]: pandas.core.frame.DataFrame

type(dfs)
Out[7]: list

len(dfs)
Out[8]: 408

вот некоторые примеры данных

# sample dataframes
d1 = pd.DataFrame({'one' : [1., 2., 3., 4.], 'two' : [4., 3., 2., 1.]})
d2 = pd.DataFrame({'one' : [5., 6., 7., 8.], 'two' : [9., 10., 11., 12.]})
d3 = pd.DataFrame({'one' : [15., 16., 17., 18.], 'two' : [19., 10., 11., 12.]})

# list of dataframes
mydfs = [d1, d2, d3]

Я хотел бы совместить d1,d2 и d3 в панды фрейма данных. Альтернативно, метод чтения таблицы больш-иш сразу в а фрейм данных при использовании chunksize вариант был бы очень полезен.

3 53
python pandas

3 ответа:

учитывая, что все таблицы данных имеют одинаковые столбцы, вы можете просто concat них:

import pandas as pd
df = pd.concat(list_of_dataframes)
102

Если фреймы данных не все имеют одинаковые столбцы попробуйте следующее:

   df = pd.DataFrame.from_dict(map(dict,df_list))
4

вы также можете сделать это с помощью функционального программирования:

reduce(lambda df1, df2: df1.merge(df2, "outer"), mydfs)
0