我最近开始使用python中的polars API,并且对它所能实现的非常满意。现在我需要将一些流程与Big Query集成。我会写一些结果和阅读原始数据。Polars非常自己的文档的主题几乎是不存在的,当然,我想避免在这样的解决方案
polars.DataFrame().to_pandas()
然后使用GCPDOCS中描述的PANDAS方法。有一个北极本地的解决方案吗?
jmo0nnb31#
我看到google bigquery客户端库有一个to_arrow方法。https://github.com/googleapis/google-cloud-python/pull/8693我在他们的文档中找不到任何参考指南,所以我不确定这是否有效。但我希望它是这样的:
to_arrow
from google.cloud import bigquery import polars as pl client = bigquery.Client() # Perform a query. QUERY = ( 'SELECT name FROM `bigquery-public-data.usa_names.usa_1910_2013` ' 'WHERE state = "TX" ' 'LIMIT 100') query_job = client.query(QUERY) pl.from_arrow(query_job.to_arrow())
shstlldc2#
要获取数据,可以将ConnectorX与polars一起使用
2条答案
按热度按时间jmo0nnb31#
我看到google bigquery客户端库有一个
to_arrow
方法。https://github.com/googleapis/google-cloud-python/pull/8693
我在他们的文档中找不到任何参考指南,所以我不确定这是否有效。
但我希望它是这样的:
shstlldc2#
要获取数据,可以将ConnectorX与polars一起使用