VMware安装Fedora18，升级3.8.2内核，导致hgfs无法编译安装，无法共享文件夹的问题解决方法

本人是个升级控，无论是什么软件，只要出了最新版本就必须跟上。于是便因而部分软件不兼容，导致出现了一些问题。

近日将电脑中VMware安装的Fedora虚拟机升级到了最新的发布版本Fedora18，并更新内核到3.8.2。发现虽然我的VMware已经升级到最新版本的9.0.2，但vmware tools仍然不支持3.8.2的内核。导致在安装vmware tools 安装时hgfs编译出错，无法与主机开启共享文件夹。

虽然有ftp等很多代替的方法，但是由于本人有着一定程度上的强迫症，习惯一旦改变就会非常的不自在。

于是便根据报错的原因，找到了个解决问题的办法，特此和遇到同样问题的朋友分享一下。

首先需要安装一次vmware-tools，观察所遇到的编译错误。

我遇到的编译错误不多，一共有两个。

1. 结构体 super_block 缺少s_frozen

2. vmtruncate 函数未定义，被隐式声明

第一个问题，很容易解决，只需要在所需要连接的内核源代码super_block中加入s_frozen即可。

Fedora18在安装了kernel-devel后，super_block所在的内核头文件为/lib/modules/3.8.2-206.fc18.x86_64/build/include/linux/fs.h，只需要编辑该文件，

在struct super_block中加入

int s_frozen;

第一个问题便解决。

第二个问题，是由于vmtruncate函数在新内核中已经不在使用，因而没有相应的定义。所以解决该问题比较简单的方式是修改hgfs，用其他方式实现原vmtruncate的功能。

经过尝试，我选择在hgfs中，重新定义vmtruncate。

首先 在/usr/lib/vmware-tools/modules/source目录中解压vmhgfs.tar

然后编辑其中的inode.h，增加了vmtruncate函数的声明如下：

int vmtruncate(struct inode *inode, loff_t newsize);

再后，编辑inode.c ，再其中增加vmtruncate函数的定义，如下：

int vmtruncate(struct inode *inode, loff_t newsize)
{
int error;
error = inode_newsize_ok(inode, newsize);

if (error)
return error;
truncate_setsize(inode, newsize);
truncate_pagecache(inode, newsize, inode->i_size);
return 0;
}

并修改HgfsTruncatePages函数中comp_vmtruncate函数的调用处，修改为直接调用vmtruncate。

static int
HgfsTruncatePages(struct inode *inode, // IN: Inode whose page to truncate
loff_t newSize)      // IN: New size of the file
{
int result;
pgoff_t pageIndex = newSize >> PAGE_CACHE_SHIFT;
unsigned pageOffset = newSize & (PAGE_CACHE_SIZE - 1);
struct page *page;
char *buffer;

ASSERT(inode);

LOG(4, (KERN_DEBUG "VMware hgfs: HgfsTruncatePages: entered\n"));
result = vmtruncate(inode, newSize);
if (result) {
LOG(4, (KERN_DEBUG "VMware hgfs: HgfsTruncatePages: vmtruncate failed "
"with error code %d\n", result));
return result;
}
/*
* This is a bit complicated, so it merits an explanation. grab_cache_page()
* will give us back the page with the specified index, after having locked
* and incremented its reference count. We must first map it into memory so
* we can modify it. After we're done modifying the page, we flush its data
* from the data cache, unmap it, release our reference, and unlock it.
*/
page = grab_cache_page(inode->i_mapping, pageIndex);
if (page == NULL) {
LOG(4, (KERN_DEBUG "VMware hgfs: HgfsTruncatePages: could not get page "
"with index %lu from page cache\n", pageIndex));
return -ENOMEM;
}
buffer = kmap(page);
memset(buffer + pageOffset, 0, PAGE_CACHE_SIZE - pageOffset);
flush_dcache_page(page);
kunmap(page);
page_cache_release(page);
compat_unlock_page(page);
return 0;
}

最后，将修改后的hgfs重新打包并代替原有的hgfs.tar，运行./vmware-tools-distrib/bin下的vmware-config-tools.pl，（注意此处不能与运行vmware-install.pl重新安装vmware-tools，这样修改的hgfs就会白修改了）。

重现编译配置vmware tools。

这时hgfs便可以顺利编译了。配置上共享文件夹看看效果吧。