pandas 如何直接从Polars API导入/导出Big Query表

kx5bkwkv  于 2023-05-27  发布在  其他
关注(0)|答案(2)|浏览(137)

我最近开始使用python中的polars API,并且对它所能实现的非常满意。
现在我需要将一些流程与Big Query集成。我会写一些结果和阅读原始数据。
Polars非常自己的文档的主题几乎是不存在的,当然,我想避免在这样的解决方案

polars.DataFrame().to_pandas()

然后使用GCPDOCS中描述的PANDAS方法。
有一个北极本地的解决方案吗?

jmo0nnb3

jmo0nnb31#

我看到google bigquery客户端库有一个to_arrow方法。
https://github.com/googleapis/google-cloud-python/pull/8693
我在他们的文档中找不到任何参考指南,所以我不确定这是否有效。
但我希望它是这样的:

from google.cloud import bigquery
import polars as pl

client = bigquery.Client()

# Perform a query.
QUERY = (
    'SELECT name FROM `bigquery-public-data.usa_names.usa_1910_2013` '
    'WHERE state = "TX" '
    'LIMIT 100')
query_job = client.query(QUERY)

pl.from_arrow(query_job.to_arrow())
shstlldc

shstlldc2#

要获取数据,可以将ConnectorXpolars一起使用

相关问题