Sparkmagic是在Jupyter notebook中通过Livy与Spark集群交互的工具。
Sparkmagic的特性主要包括:
能够通过Livy在多语言环境下运行Spark代码
自动创建SparkContext(sc)和HiveContext(sqlContext)
通过%%sql魔法命令执行SparkSQL查询
在PySpark,PySpark3,Spark和SparkR的kernels中自动创建SQL查询的可视化
通过%%info魔法命令简单访问Spark应用信息和日志
可以通过基本认证或Kerberos认证Livy
【参考】