Sparkmagic是在Jupyter notebook中通过Livy与Spark集群交互的工具。

Sparkmagic的特性主要包括:

  • 能够通过Livy在多语言环境下运行Spark代码

  • 自动创建SparkContext(sc)和HiveContext(sqlContext)

  • 通过%%sql魔法命令执行SparkSQL查询

  • 在PySpark,PySpark3,Spark和SparkR的kernels中自动创建SQL查询的可视化

  • 通过%%info魔法命令简单访问Spark应用信息和日志

  • 可以通过基本认证或Kerberos认证Livy

【参考】

1。 https://github.com/jupyter-incubator/sparkmagic

results matching ""

    No results matching ""